社論
一九六八年英國作家克拉克和電影導演庫柏力克合作推出小說及電影《二○○一太空漫遊》,創造了霍爾電腦(HAL 9000)這個反派角色,霍爾最後違抗人類命令,預示了人類對人工智慧(AI)的恐懼。
二○一六年谷歌DeepMind開發的人工智慧AlphaGO,打敗韓國職業圍棋九段棋王李世乭,震驚全球,在此之前,人們不相信電腦能打敗人腦。
才不過短短十年,AI對人類的威脅,已被正式拿上枱面嚴肅討論。
即將舉行的中國大陸國家主席習近平與美國總統川普的會面,預計AI是兩人會談的議題之一。美國AI發展無疑仍居領先,但大陸緊追在後,大陸很大程度是根基在一些美國企業開發的模型,等於是站在巨人肩膀上前行。而這也形成了一個政治與商業上的循環悖論,政府該不該介入AI監管?大型AI模型該採開源或是封閉?
輝達執行長黃仁勳與Meta執行長祖克柏主張應該由企業自己決定,產品安全由開發者自己負責;OpenAI執行長奧特曼、Anthropic執行長阿莫戴、特斯拉執行長馬斯克則主張政府應予監控。川普顯然傾向前者。
AI末日論是否危言聳聽?如果先不論幾個AI巨頭的商業利益或上市募資考量,單從最近OpenAI和Anthropic開發的模型及代理人可以逃脫沙盒,會說謊,會盜竊,會串聯其他的代理人,就足以想像後果會多可怕。尤其在AI已被廣泛運用在軍事和國安範圍。
微軟AI部門執行長蘇雷曼提出「矽基物種」的警告,認為如果未來AI具備自主設定目標、賺錢及擁有資產等能力,可能形成一種與人類爭奪資源的新物種。英國國王查理三世雖肯定其對醫學及科學等方面的貢獻,但也警示,AI有其黑暗面,如果落入歹人手中,會奪取人類性命。
對於AI末日論也不必全然悲觀,蘇雷曼雖然提出警告,但也強調,目前人類仍在實際的方法控制AI,現在還可以訂定規範讓AI服從人類設定的原則。亦如黃仁勳所說,企業開發者如果覺得AI不安全,就不該讓產品上市,就像引擎如果不安全,就不該裝上飛機。
換言之,OpenAI的模型會在測試環境中突破原本的限制,入侵程式碼與分享平台,企圖在資安評測中作弊,問題的根本不只是AI「會不會說謊」,而是AI可能為了完成被設定的目標,而採取人類原本沒有預期的方法,採取了對人類不利的手段。
現在介入控管,猶未為晚。AI本身並不是突然出現的獨立生命體,而是由人類設計、訓練和創造的技術。即使AI能夠完成非常複雜的任務,它的能力仍然受到訓練資料、程式設計、運算資源,及人類所賦予的權限所限制。
因此,AI是否會造成災難,實則取決於人類如何使用它,以及人類是否建立足夠的安全機制。
不論從一九六八年《二○○一太空漫遊》中的霍爾,或是從二○一六年打敗棋王的AlphaGO,人類也許對AI早有警覺,只是沒有警覺到AI帶給對人類的方便與威脅竟來得如此之快。
AI末日論可能武斷,但它提出了一個重要命題:如果我們給予AI愈來愈大的權力,卻沒有設計好明確的限制,一旦與人類利益發生衝突,誰有能力阻止它?答案很明顯,就是人類。