文／郭詠澧

有些AI專家認為AI導致人類毀滅的路徑有下列幾種可能：

競賽陷阱：各國或各公司為了搶先開發更強大的AI，忽視安全性研究，導致在對齊（建立AI的目標與人類價值完全一致）的技術成熟前就部署超級智能。

對齊難題無解：始終無法找到可靠的方法，確保超級AI的目標與人類價值真正一致。

社會韌性崩潰：AI加劇的虛假資訊、就業崩潰與財富不平等，導致社會秩序瓦解，使人類失去應對其他挑戰的能力。

人類毀滅 避免途徑

也有些AI專家認為，可以避免人類因AI而毀滅的路徑有：

全球合作建立安全框架：如2023年專家聲明所呼籲的，將AI安全性視為與核不擴散同等級的全球議題。

對齊技術突破：建立AI的目標與人類價值完全一致，讓AI系統行為無法偏離設計者意圖。例如加強擴展監督、機械可解釋性（Mechanistic Interpretability）等研究取得實質進展。

人類價值的重新錨定：如一些思想家所建議，將AI的底層目標導向「真理、好奇心與美感」，而非單純的效能最大化。

分散化與韌性建設：避免單一系統壟斷，建立多樣化的AI生態與社會韌性機制。

智慧創新 共存之道

歷史上有許多技術（火、核電、基因工程）都曾帶來生存層面的擔憂，人類最終透過智慧與制度創新找到共存之道。AI的挑戰在於其發展速度遠超過去任何技術，且可能具備自我改進的能力。事實上，AI安全性的研究在2026年正處於關鍵轉折點，可以由下列兩個例子來觀察：

OpenAI持續推進對齊研究，包括「深思熟慮的對齊」（Deliberative Alignment）、「思維鏈監控」（CoT Monitoring）和「自白訓練」（Confession Training），訓練模型會主動報告自己的不當行為。

英國AI安全研究所（AISI）正在建立控制評估框架，模擬AI在真實開發環境中的越權行為，並研究可擴展監督（Scalable Oversight）協議。