文／楊慧莉

AI（人工智慧）時代，除了帶來便利，隱憂也隨至。除了擔心AI搶飯碗，世人開始憂心這些智慧快速成長的機器會不會哪天也發展出意識，一如早先科幻片所預言的那樣，再也不聽人類管控。研究人腦、心智和意識近30年的英國薩塞克斯大學教授塞斯深入探索此迫切問題，給出一個最確切的解答……

釐清狀況
電腦終究不比人腦

阿尼爾‧塞斯（Anil Seth）是英國神經科學家，現任薩塞克斯大學認知與計算神經科學教授；目前是全球神經科學和認知科學領域被引用最多的學者之一。已發表一百多篇科學論文和書籍章節，並擔任《意識神經科學》期刊的主編。二○二一年發表的作品《身為自己：人類意識的新科學》，後來成為暢銷書，並在當年成為眾多媒體的年度選書。

塞斯深入神經科學、哲學和AI領域探索意識的本質，有意識專家之美名。目前，身為加拿大先進研究所「人腦、心智和意識計畫」的共同專案主任，他鑽研我們這個時代一個重要問題：AI可以有意識或發展出意識嗎？日前，他透過演說分享自己的研究結果，為世人解惑。

AI能欣賞美景？

首先，塞斯提出AI意識問題背後的文化起源。他表示，人們幾個世紀以來，一直想扮演神，於是創造了各種虛假版本的自我，從瑪麗‧雪萊創造的「科學怪人」到史丹利‧庫柏力克的科幻電影《2001太空漫遊》裡具備意識的超級電腦「HAL 9000」和艾力克斯‧嘉蘭執導的科幻驚悚片《人造意識》中的人工智慧女機器人「艾娃」。這種夢想已隨著每個突破的科技浪潮不斷創新。如今，又遇到AI這個大浪潮。

塞斯認為，我們現在所擁有的AI在某些方面已經很聰明了，但他也忍不住想問，「但它可以有意識嗎？會有機器人看著日落，在看到紅紅橘橘等美麗的色彩時覺得美麗或喜悅嗎？或是電腦不管多聰明，但內部始終一片漆黑，只是一個物體，不會是一個主體？」

AI是否可以有意識，是我們這個時代所面對的一個最重要問題。塞斯表示，如果電腦可以有意識、能感知，我們將進入人類史上一個新紀元——製造出新的實體，這個實體有他們自己的內在生命，還自行發明對他們自身有利的事，而不只是對我們發生影響；而這個有意識的AI可能以我們有所不知的方式，在我們點擊滑鼠時遭到痛楚；讓人更擔心的可能是，「如果這些科技產物的材料『矽晶片』可以有感知，那麼我們這些有血有肉之人很快就會被這些不會老、也不會死的機器人取代。」

意識和智慧不相同

如今，AI在過去幾年進步神速，沒人知道即將到來的會是什麼。許多專家認為有可能出現「有意識的AI」，還有少數幾位覺得這件事一定會發生，有些認為這種AI已經出現了。

不過，塞斯認為他們都錯了。由於研究大腦、心智和意識近三十年，他學到了一件事，即想回答「AI可否有意識」的問題，需要審視人類自身，了解我們人類的心智是如何構造的。

根據他的研究，身為人類，我們都傾向以自己的方式看待世界。我們知道自己有意識，也覺得我們很聰明，因此會覺得有意識和很聰明是一掛的。這也是為何有人覺得AI變得愈來愈聰明後，意識也會同時閃現。「但意識和智能是不同的事。」塞斯可以確切地說，「智能是關於處理事情，可用來解決填字遊戲、組裝家具、處理棘手的家庭處境。意識，則是關於感覺和存在，可品味有果酸的咖啡、感受火爐的溫暖、看到愛人時喜上眉梢，而正常、清醒的意識一定不同於全麻下的失憶。」

塞斯強調，意識和智能在人類身上伴隨發生，並不代表它們一定在一起，而這樣的臆測只是我們自身心理的投射，而非洞察出存在實相的結果。

他以聊天機器人（GPT）這樣的語言模型來說，「由於灌入了大量的文本，這種機器人在與我們互動時反映出我們的形象。但語言模型不是意識，只是模擬意識。」

塞斯表示，我們把意識投射給語言模型的方式就像把臉投射到雲朵中，或是幾年前有人把德瑞莎修女的形象投射到肉桂捲裡；而我們也像神話中那位顧影自憐的美少年納西瑟斯一樣，希望在演算法上看到我們自己。

人腦是肉做電腦？

根據塞斯的理解，聊天機器人等系統是不會有意識的。他認為，說起意識問題，沒有事情是確定的，但AI會有意識的想法端賴一種迷思——腦袋本身就是一個電腦，只是它是肉做的，而非金屬。因此，意識也就是一種特別的演算法，一種剛好發生在人腦這種溼件中的集體運算，而這當然也可以在成分為矽晶片的AI裡。

然而，塞斯指出，電腦只是我們試圖理解人腦複雜性時其中一個科技隱喻，而如果我們把隱喻錯當事物本身，就會有麻煩，這就好比錯把地圖當成領土。

他進一步解釋，在真的人腦裡，心智工具和溼件之間沒有明顯的區分，不像電腦中的硬體和軟體；在電腦的世界，演算法就是一切，但在人腦世界，其所為和其屬性是一體的，代表其所為不太可能只靠演算法運算；如果再細看人腦的運作，就更不可能會將人腦類比為電腦。

比方說，「腦中的神經迴路雖會像電腦那樣交換訊息，做出運算，卻也會跳脫數位的限制，神經傳導物質通過大腦迴路，電磁場掃過大腦皮質就像氣象系統一樣，即便是一個單一的神經元也是個美麗的生物機器，與提供AI動力的簡化版神經元截然不同。」

因此，塞斯可以很篤定地說，「人腦絕非只是由肉做成的電腦，意識也極不可能只是運算之事。如此看來，AI意識問題已不在考慮範圍內。」

虛驚一場
意識問題有血有肉

如果有人擔心只要模擬大腦每個細節就能弄出意識，然後讓機器出現意識，但塞斯點出模擬和真實之間是有差別的。他認為，這就好比用電腦模擬出颶風並不會造出真正的風，「我們可以模擬人腦，細節愈多，只會讓電腦可能更好用，但不會讓電腦更有意識。」

人類意識帶神祕性

一般而言，意識還是有些神祕。塞斯根據其多年發展出的觀點表示，意識跟我們的生物本性密切相關；不像抽象的運算世界和演算法，生命是關於物質性，生物系統深深地植入能量和物質之流裡，並隨著時間更新其持續存在的條件；每個有意識的經驗都很巧妙地被賦予了些許活力及影響人類未來生存的核心要素，每個經驗中心在情感表面下，都有種簡單、沒有形狀而活生生的基本感受；最重要的是，是生命本身，而非運算，把火花吹進了經驗程式；如果真是如此，有意識的AI也需要是活生生的AI。

綜上所述，塞斯做出三點結論：首先，由於深層認知偏誤，讓我們把語言、智能和意識混為一談，但事實並非如此，意識並非我們所認知的那樣；第二，人腦不是電腦，因此意識很難單靠運算得出；第三，人工智能是電腦軟體，不是活生生的心智，可能讓人覺得像意識，但其實不是。

AI意識的後遺症

塞斯也想說說AI有沒有意識這件事為何這麼重要。他表示，現在已有一些影響力團體主張AI系統該有自己的權益，這主要來自AI可能發展出意識的想法。但如果有主觀感受和自我意識的人工智慧，可能透過其他科技或路徑在發展中，此事就有道理了。但考量我們過去曾有虐待其他動物和他人的不良紀錄，我們不會想重蹈覆轍。因此，建構有意識的AI是個糟糕的點子。

此外，如果有意識的AI一如塞斯所想，只是一種設計上產生的幻覺，那麼給這些系統權益，人類就會犧牲控制、規範系統的能力，還不能關掉系統，而且可能是毫無來由的。

塞斯也指出，避免創造有意識的AI，還有其他原因。比方說，它讓我們變得更脆弱，「如果我們相信AI能體恤我們、理解我們，就很可能照它說的做，即便它要我們做的事對我們有害。」另外，也破壞人性。當我們在自己的演算法中看到自己，我們也在自身身上看到演算法，而這等同把心智看成一組在生物體上自由漂流的運算，小看了我們在真實世界是個活生生、能呼吸的人的特質。

意識該為生物專屬

如果有意識的AI真有可能出現，未來有可能也將我們的心智意識上傳到矽晶片打造的雲端，成為不朽，或至少永遠留存在某個未來超級電腦嶄新的迴路裡。

塞斯認為這樣的願景很有吸引力，也可以理解，但回到現實面，AI意識問題的談論也會觸及其他的事，如召換科技神奇力，讓股價飆高，不受管控，而我們需抗拒這些誘惑，「演算法的聖禮比較像一個虛幻的夢，不會有後人類樂園，只有矽晶片時代的遺忘。我們需要換個方式，讓自身更接近自然，成為其一部分，讓意識跟活生生的血肉連結，而非綁在沒有生命的矽砂上。」

塞斯表示，AI或許能贏得智能的聖杯，至少某些方面是這樣，但意識還是留給我們去慶祝與跟其他生物分享吧！

「因此，別讓我們輕易地將我們的心智賣給創造出的機器吧！如果我們真這麼做，我們不僅高估了它們，也低估了我們自己。」意識專家這麼說。