社論--握緊掌控AI方向的手

 |2026.09.16
570觀看次
字級
大
中
小

人工智慧(AI)究竟會把人類帶向更美好的未來,還是推向一個無法控制的深淵?這個問題如今已不再只是科幻小說的想像。九月八日,二十七歲的英國研究員考克森離開Anthropic後,在X發文警告,AI正快速走向能夠自我迭代的「超級智慧」,人類正在拿自己的生命下注;按照目前發展速度,最晚到二○二七年底,AI可能進入難以控制的階段。兩天後,輝達執行長黃仁勳則公開反駁AI導致人類滅亡的說法,認為AI企業正在持續強化安全機制。兩種截然不同的判斷,突顯一個共同事實:沒有人真正知道AI究竟會走到哪裡。

AI最令人不安之處,是它的進步速度遠遠超出人類制度調整的速度。過去的科技發展大致仍有一個可以預測的曲線;但生成式AI結合算力、資料與演算法後,已經呈現高度加速的特性。一旦AI具備更強的自主學習、自我修正與自我複製能力,人類過去所熟悉的模式就來不及反應。真正的危機是我們不知道它何時可能失控,更不知道屆時人類是否還有能力把它關掉。

因此,面對AI,最不可取的態度就是在「樂觀」與「末日論」之間二選一。黃仁勳提醒我們,AI確實能創造巨大生產力;考克森警告我們,科技進步並不等於風險自動消失。AI值得發展,但AI更必須受到約束。就像核能既可以發電,也可以製造毀滅性武器。科技本身沒有善惡,關鍵在於人類能否建立足以駕馭它的制度。

第一道防線,是建立AI的「安全煞車」。任何高度自主、具備自我學習與自我複製能力的先進AI,在正式部署前,都應接受嚴格的安全測試,包括極端情境、網路攻擊、欺騙行為、自主擴張能力及人類指令服從程度的測試。尤其不能由開發AI的企業自己宣布「安全」就算數,而應建立獨立的第三方審查制度。

第二道防線,是建立全球性的AI治理規則。AI沒有國界,主要AI國家應建立類似核武、航空與生物安全的國際合作機制,針對算力、先進模型、AI自主能力與高風險應用建立共同標準。尤其是涉及軍事決策、核武系統、關鍵基礎設施及金融市場的AI,更應設定明確的人類最終決策原則。

第三道防線,必須防止AI競賽變成「誰先突破、誰就贏」的危險遊戲。今天美國、中國大陸及其他科技強國都在競逐AI領先地位,如果企業與國家都認為「只要我慢一步,就會被別人超越」,安全標準就很容易成為可以犧牲的成本。

對台灣而言,AI治理同樣不能只是追逐「AI島」的產業口號。台灣擁有半導體、伺服器及資通訊產業的完整優勢,勢必成為全球AI供應鏈的重要一環。但愈是處在核心位置,就愈不能只思考如何把AI做得更快、更大、更強,而必須思考如何把AI做得更安全、更可控。政府的AI政策不能只有招商與補助,更要有風險管理。

考克森的警告未必成真,黃仁勳的樂觀也未必就是最後答案。面對一項可能改變文明命運的科技,最理性的態度不是恐慌,也不是盲目樂觀,而是在還來得及的時候,把煞車設施裝好。科技可以向前狂奔,但方向盤與煞車,必須掌握在人類手中。

熱門新聞
訂閱電子報
台北市 天氣預報   台灣一週天氣預報
關
於
我
們

《人間福報》是一份多元化的報紙,不單只有報導佛教新聞,乃以推動祥和社會、淨化人心為職志,以關懷人類福祉、追求世界和平為宗旨,堅持新聞的準度與速度、廣度與深度,關懷弱勢族群與公益;強調內容溫馨、健康、益智、環保,不八卦、不加料、不阿諛,希冀藉由優質的內涵,體貼大眾身心靈的需要、關懷地球永續經營、延續宇宙無窮慧命,是一份承擔社會責任的報紙。自許成為「社會的一道光明」的《人間福報》任重而道遠,在秉持創辦人星雲大師「傳播人間善因善緣」的理念之際,更將堅持為社會注入清流,讓福報的發行為人間帶來祥和歡喜,具體實現「人間有福報,福報滿人間」的目標。
人間福報社股份有限公司 統編:70470026

 
聯絡我們 隱私權條款

Copyright © 2000-2024 人間福報 www.merit-times.com.tw
All Rights Reserved.