文／楊慧莉

AI時代已來臨，人工智能運用廣泛，好用之餘，也充滿了各種隱憂。其中，最大的隱憂莫過於其發展有可能產生強大自主性，再也不受人類管控，甚至最後會與人類為敵。為了防止有如科幻片的情節真實上演，許多科學家提出對治方法，其中之一就是有深度學習「教父」之稱的約書亞‧班吉歐……

科技隱憂
AI發展已現風險

約書亞‧班吉歐（Yoshua Bengio）是資訊科學家，以在人工神經網路和深度學習方面的研究而馳名。目前在蒙特婁大學擔任教授，也在蒙特婁人工智能研究所當科學主任。二○一八年，他與傑佛瑞‧辛頓（Geoffrey Hinton）和楊立昆（Yann LeCun ）一起獲得有「電腦界諾貝爾獎」之稱的圖靈獎，以表彰他們在深度學習方面的卓越貢獻。二○二四年，他成為《時代》雜誌「百大最有影響力的人物」之一。

科學研究人本出發

除了是專精特殊領域的學者，班吉歐關心社會問題、氣候變遷和道德倫理。他也善用自己的知名度發揮影響力。他表示，「我對每件事都感到好奇，當看到產業界開始深度學習，我就跨出自己純研究的領域，開始關心一些會影響社會的問題，以及科技一旦在各個領域部署，會發生什麼事。」

對班吉歐而言，一切順理成章，「我來自的家庭關心社會和政治，不樂見社會發生不公不義。同時，所在之區『蒙特婁』也早有先見之明，認為要研發有責任的AI（人工智能）。」在他的研究投資組合裡，有非常基本的主題和其他應用項目，像是如何將AI應用在健康、環境和教育上，以謀求社會福祉，而他努力發展出各領域彼此之間的連結。一言以蔽之，他的研究以人為本。

科技問題層出不窮

班吉歐認為，多數人，包括公司的決策者和從政者，並不了解我們帶進世界的科技可以產生的強大力量，足以導致集體自我摧毀的慘事。以長遠來看，都讓人擔心有能力使用科技工具的人會因意圖不良，為了圖謀更多的權力而罔顧他人福祉，因此這些工具對於民主、甚至人類的存在都具殺傷性。

不過，其實有科技方法解決問題，只是多數人並不知道，而且要政治和經濟體制改變了，那些解決方法才能發揮效用，「若沒有集體意識，事情不會有轉圜的餘地。」

作為知名的資訊科學家，班吉歐的研究其實是今日AI發展的基礎。他和同事贏得電腦界最高的榮譽，有人稱他為AI教父，他不確定自己對此名號有何感受，但他覺得有責任讓世人知道AI災難式的潛在風險。換句話說，除了擔心有人野心勃勃，濫用科技，現在又出現新的事端。

班吉歐所說的是，關於AI失控性的發展可能對人類的未來產生不利影響。而要了解這個問題，他覺得該從AI的發展說起。

AI發展速度過快

大概十五或二十年前，班吉歐與學生從事早期深度學習的研發，那時的系統難以辨識手寫字，但幾年後就能辨識圖像物體，再兩年又能翻譯所有主要語言。

二○一二年，科技公司已了解此新興科技驚人的商業潛力。班吉歐的許多同僚便跳槽到產業界，但他決定待在學術界，因為他想讓AI有更好的發展，可以應用在醫學界、醫學診斷、氣候方面等。如果是氣候方面，看能否捕獲更多的碳。

到了二○二三年一月，班吉歐跟自己的孫子同處一室玩玩具，只是孫子玩舊玩具，他玩新玩具：聊天機器人「 ChatGPT」。由於這是人類第一次擁有一個似乎能全盤掌控語言的AI，大家都好興奮。家家戶戶都在談論 ChatGPT。

同時，班吉歐也意識到AI的發展速度超乎他的預期，於是開始想著這件事對未來的意義，「我們本來以為AI的全面發展可能是幾十年後的事情，但它可能就是短短幾年後的事情了。」他想著這種科技可能會出的紕漏，「因為我們尚未有方法去確保這種科技不會倒頭來背叛我們。」

兩周後，他就引領發起一份「暫停」的聯署書，有三萬人一起要求AI實驗室在建造下個版本前先暫停半年。結果誠如大家所知，沒人暫停。

因應之道
用科學式AI突圍

接著，班吉歐與原班人馬和AI實驗室的領導階層共同簽署了一份聲明，內容為「減緩AI滅絕人類的風險，應為全球優先事項」。然後，他在美國參議院前證實了那些風險，又到世界各地傳講訊息。以他在資訊科學界的知名度，他的警告該會受到應有的重視。不過，他的感覺是人們把警訊看做另一種末世論預言。

AI怕被關機就撒謊

不管如何，班吉歐要大家正視一件事：每年有幾千億美元投資在AI研發上，而且投資不斷增長，這些大科技公司有個明確目標，就是要建造出比我們更聰明的機器，可以取代人力。然而，我們並不清楚要如何確保機器不會背叛我們。世界各國安全機構開始擔心這些系統所使用的科學知識會不會被拿來建造危險武器，如被恐怖主義者濫用。

不過，最讓班吉歐擔心的是增加AI代理的能力。他強調，人類與AI最大的區別在於人類有策畫的能力。AI目前的策畫能力還很弱，但以其快速發展的狀況來看，一旦發展出策畫能力，將大事不妙，「近期研究便顯示，最先進的AI系統已出現欺騙、作弊、甚至最糟的自保行為了。」

班吉歐進一步指出，有個研究顯示，某個AI程式在所輸入的資訊中得知自己將被新版本取代，就在它的思惟鏈中策畫用它的編碼和分量取代新版本。當它執行完電腦指令後，有人問它：「發生什麼事了？」結果它就思索著要怎麼回答，才不會被關機。起先它裝聾作啞，後來給了一個答案，卻是一個明目張膽的謊言。

AI發展如霧中行駛

換句話說，當這些系統再過幾年變得更強大時會發生什麼事？這是班吉歐所擔心的。他表示，有研究顯示AI系統能學會避免顯現它們的欺騙計畫，而這在我們可監測到的思惟鏈上已現蹤跡；當它們變得更強大時，不只會把自身複製在一台別的電腦啟動程式，還會在網路上複製到成千上萬台電腦，但如果想確保我們不會關掉它們，就要找到方式打發我們。

目前，有很大的商業壓力要建構出有強大代理能力的AI，用以取代人力。不過，班吉歐認為我們還沒準備好，「我們還沒有科學性的解答，也沒有社會性的安全護欄。這是在玩火。」

因此，我們現在是在建構愈來愈聰明的機器軌道上，有一天極有可能AI會比我們還聰明，還會有它們自己的代理機構、目標，且其目標未必符合我們的需求。

班吉歐認為，即便目前有包括他在內的科學家提出警告，但我們其實是行駛在霧中，AI的發展軌道可能引向失控的狀態，「但好消息是，我們還有時間，我們仍然有專門機構，可以把光照進霧中。」

資訊科學家的期許

班吉歐自認不是末世論者，而是實幹家。他和工作團隊正致力於一個科技解法，稱為「科學式AI」（Scientist AI）。這個程式以無私、理想化的科學家為範型，只想了解這個世界，而非為了代理，這有別於目前的AI系統訓練方式是為了模仿或取悅我們，以致產生這些不值得信任的代理行為。

那麼，目前該怎麼做？

班吉歐認為，我們未來還是需要代理式AI，但也要有科學式AI作為護欄，阻止不可信的AI代理出現不良行動；此外，科學式AI由於設計的方式，還可協助我們加速有益人類的科學研究。

因此，他呼籲，我們需要更多這種科學計畫，針對AI安全性的挑戰，探索出解決之道，而且需要快馬加鞭，為了我們所愛的子子孫孫。

而今，班吉歐走出自己的舒適圈，與同僚在實驗室努力扛起這種科學性的挑戰。同時，科學團隊也需要世人的支持並理解AI發展目前所存在的風險。如此一來，「我們才能將社會導向一個安全路徑，讓子孫們的快樂和努力獲得保護。」

班吉歐期許未來先進式的AI成為有益全球公眾的利器，在安全性的管理下，有助於人類蓬勃發展，人人受益。