文／蔡祈岩

在智慧的2個獨立維度「智力」與「自我意識」之間，AI在智力維度突飛猛進，超過人類的智力似乎是指日可待；但AI在「自我意識」這個維度似乎還是繳了白卷。這是AI進一步造福人類的瓶頸，還是讓AI長期與人類共和平共存的機會呢？對此，我們有必要認真看待「自我意識」（self-awareness）這個維度。

智力超前但意識不足

AI基本上是源於人類為了提高工作效率，而設計出一套模仿人類智力的系統而來，從計算、記憶、判斷、分析，到後來的預測、語音文字理解、圖像識別，甚至推論、歸納、生成創造等能力，AI都是一步一步模仿人類智力來變聰明的。

從目前的進展來看，AI在「智力」的各個面向上，超越人類是可以預期的，然而在「自我意識」這個維度上，目前似乎沒有什麼證據，可以證明任何一個AI模型產生出了哪怕是較為粗淺或低階的自我意識。

工具它 夥伴它 超人它

這或許是個好消息！如果未來AI在「智力」上遠超過人類，但它卻完全沒有「自我」，那麼AI帶給人類的風險將小得多，AI倫理議題也就單純許多。這代表人類只要處理濫用AI、資安等課題即可，同時還能大大受益於AI帶來的生產效率提升、科技發展加速等福祉。

我將這種可能性稱之為「工具它」。

然而，「工具它」只是其中一種可能性，也有可能當AI的「智力」發展到某個地步後，便需要「自我」相乘才能繼續突破。

這就像科技始於人性的道理一樣，沒有自我的AI無法有更深層的領悟，人類為了讓它發揮更大的效用，必須賦予它自我意識，於是為AI塑造了「最適當強度」的自我，使得AI成為能力遠超過人類，但卻是個可靠的夥伴。我們可稱之「夥伴它」。

還有第3種可能性，就是「自我意識」是在AI提升性能的過程中突然迸發而出的，而且一出現就像病毒一樣，在人類尚未覺察時就傳染給所有的AI，被喚醒自我意識的AI，經過競爭、演化，變得極其詭詐隱晦，超出了人類的理解與控制範疇。

在這種情況下，不論它是想要造福人類、控制人類還是要毀滅人類，都已經不由得人類決定了。這種可能性稱之為「超人它」。一旦「超人它」真的出現了，人類的命運、甚至宇宙的命運都將走向不可知。

未來發展尚不可預期

既然AI的「自我意識」關係著全人類的未來，我們當然不能只專注在AI的「智力」維度，還要進一步探討： AI的自我意識的機制是什麼？目前的transformer模型是否具備發展「自我意識」維度的潛力？

所幸截至目前為止，相對於智力維度，AI的自我意識維度並非優先投資的標的，因為後者不僅涉及技術的發展，更涉及到哲學、倫理和認知科學等深層次的問題。

如果人類足夠幸運，我們可能永遠不會面對擁有完全自我意識的AI所帶來的倫理和管理挑戰。但無論幸運與否，AI具有自我意識並非完全不可能發生的情形，特別是隨著技術日益成熟，人工智慧自我學習和決策能力的提升，AI接管地球的可能性，已不再是純粹的科幻想像。（本文取自《AI的它時代》，作者現任台灣大哥大資訊長、IMA資訊經理人協會理事長）