【生活智人138】資訊科學家班吉歐 擘畫更安全的AI發展道路 文/楊慧莉 |2025.06.14 語音朗讀 1577觀看次 字級 大 中 小 大科技公司有個明確目標,就是要建造出比我們更聰明的機器,可以取代人力。圖/123RF聊天機器人「 ChatGPT」出現,成了大人的「新玩具」。圖/123RF資訊科學家班吉歐的研究以人為本。圖/AIM Research2012年,科技公司已了解AI科技發展驚人的商業潛力。圖/123RF班吉歐認為,我們未來仍需要代理式AI,但也要有科學式AI作為護欄,阻止不可信的AI代理出現不良行動。(示意圖)圖/123RF 文/楊慧莉AI時代已來臨,人工智能運用廣泛,好用之餘,也充滿了各種隱憂。其中,最大的隱憂莫過於其發展有可能產生強大自主性,再也不受人類管控,甚至最後會與人類為敵。為了防止有如科幻片的情節真實上演,許多科學家提出對治方法,其中之一就是有深度學習「教父」之稱的約書亞‧班吉歐……科技隱憂AI發展已現風險約書亞‧班吉歐(Yoshua Bengio)是資訊科學家,以在人工神經網路和深度學習方面的研究而馳名。目前在蒙特婁大學擔任教授,也在蒙特婁人工智能研究所當科學主任。二○一八年,他與傑佛瑞‧辛頓(Geoffrey Hinton)和楊立昆(Yann LeCun )一起獲得有「電腦界諾貝爾獎」之稱的圖靈獎,以表彰他們在深度學習方面的卓越貢獻。二○二四年,他成為《時代》雜誌「百大最有影響力的人物」之一。科學研究人本出發除了是專精特殊領域的學者,班吉歐關心社會問題、氣候變遷和道德倫理。他也善用自己的知名度發揮影響力。他表示,「我對每件事都感到好奇,當看到產業界開始深度學習,我就跨出自己純研究的領域,開始關心一些會影響社會的問題,以及科技一旦在各個領域部署,會發生什麼事。」對班吉歐而言,一切順理成章,「我來自的家庭關心社會和政治,不樂見社會發生不公不義。同時,所在之區『蒙特婁』也早有先見之明,認為要研發有責任的AI(人工智能)。」在他的研究投資組合裡,有非常基本的主題和其他應用項目,像是如何將AI應用在健康、環境和教育上,以謀求社會福祉,而他努力發展出各領域彼此之間的連結。一言以蔽之,他的研究以人為本。科技問題層出不窮班吉歐認為,多數人,包括公司的決策者和從政者,並不了解我們帶進世界的科技可以產生的強大力量,足以導致集體自我摧毀的慘事。以長遠來看,都讓人擔心有能力使用科技工具的人會因意圖不良,為了圖謀更多的權力而罔顧他人福祉,因此這些工具對於民主、甚至人類的存在都具殺傷性。不過,其實有科技方法解決問題,只是多數人並不知道,而且要政治和經濟體制改變了,那些解決方法才能發揮效用,「若沒有集體意識,事情不會有轉圜的餘地。」作為知名的資訊科學家,班吉歐的研究其實是今日AI發展的基礎。他和同事贏得電腦界最高的榮譽,有人稱他為AI教父,他不確定自己對此名號有何感受,但他覺得有責任讓世人知道AI災難式的潛在風險。換句話說,除了擔心有人野心勃勃,濫用科技,現在又出現新的事端。班吉歐所說的是,關於AI失控性的發展可能對人類的未來產生不利影響。而要了解這個問題,他覺得該從AI的發展說起。AI發展速度過快大概十五或二十年前,班吉歐與學生從事早期深度學習的研發,那時的系統難以辨識手寫字,但幾年後就能辨識圖像物體,再兩年又能翻譯所有主要語言。二○一二年,科技公司已了解此新興科技驚人的商業潛力。班吉歐的許多同僚便跳槽到產業界,但他決定待在學術界,因為他想讓AI有更好的發展,可以應用在醫學界、醫學診斷、氣候方面等。如果是氣候方面,看能否捕獲更多的碳。到了二○二三年一月,班吉歐跟自己的孫子同處一室玩玩具,只是孫子玩舊玩具,他玩新玩具:聊天機器人「 ChatGPT」。由於這是人類第一次擁有一個似乎能全盤掌控語言的AI,大家都好興奮。家家戶戶都在談論 ChatGPT。同時,班吉歐也意識到AI的發展速度超乎他的預期,於是開始想著這件事對未來的意義,「我們本來以為AI的全面發展可能是幾十年後的事情,但它可能就是短短幾年後的事情了。」他想著這種科技可能會出的紕漏,「因為我們尚未有方法去確保這種科技不會倒頭來背叛我們。」兩周後,他就引領發起一份「暫停」的聯署書,有三萬人一起要求AI實驗室在建造下個版本前先暫停半年。結果誠如大家所知,沒人暫停。因應之道用科學式AI突圍接著,班吉歐與原班人馬和AI實驗室的領導階層共同簽署了一份聲明,內容為「減緩AI滅絕人類的風險,應為全球優先事項」。然後,他在美國參議院前證實了那些風險,又到世界各地傳講訊息。以他在資訊科學界的知名度,他的警告該會受到應有的重視。不過,他的感覺是人們把警訊看做另一種末世論預言。AI怕被關機就撒謊不管如何,班吉歐要大家正視一件事:每年有幾千億美元投資在AI研發上,而且投資不斷增長,這些大科技公司有個明確目標,就是要建造出比我們更聰明的機器,可以取代人力。然而,我們並不清楚要如何確保機器不會背叛我們。世界各國安全機構開始擔心這些系統所使用的科學知識會不會被拿來建造危險武器,如被恐怖主義者濫用。不過,最讓班吉歐擔心的是增加AI代理的能力。他強調,人類與AI最大的區別在於人類有策畫的能力。AI目前的策畫能力還很弱,但以其快速發展的狀況來看,一旦發展出策畫能力,將大事不妙,「近期研究便顯示,最先進的AI系統已出現欺騙、作弊、甚至最糟的自保行為了。」班吉歐進一步指出,有個研究顯示,某個AI程式在所輸入的資訊中得知自己將被新版本取代,就在它的思惟鏈中策畫用它的編碼和分量取代新版本。當它執行完電腦指令後,有人問它:「發生什麼事了?」結果它就思索著要怎麼回答,才不會被關機。起先它裝聾作啞,後來給了一個答案,卻是一個明目張膽的謊言。AI發展如霧中行駛換句話說,當這些系統再過幾年變得更強大時會發生什麼事?這是班吉歐所擔心的。他表示,有研究顯示AI系統能學會避免顯現它們的欺騙計畫,而這在我們可監測到的思惟鏈上已現蹤跡;當它們變得更強大時,不只會把自身複製在一台別的電腦啟動程式,還會在網路上複製到成千上萬台電腦,但如果想確保我們不會關掉它們,就要找到方式打發我們。目前,有很大的商業壓力要建構出有強大代理能力的AI,用以取代人力。不過,班吉歐認為我們還沒準備好,「我們還沒有科學性的解答,也沒有社會性的安全護欄。這是在玩火。」因此,我們現在是在建構愈來愈聰明的機器軌道上,有一天極有可能AI會比我們還聰明,還會有它們自己的代理機構、目標,且其目標未必符合我們的需求。班吉歐認為,即便目前有包括他在內的科學家提出警告,但我們其實是行駛在霧中,AI的發展軌道可能引向失控的狀態,「但好消息是,我們還有時間,我們仍然有專門機構,可以把光照進霧中。」資訊科學家的期許班吉歐自認不是末世論者,而是實幹家。他和工作團隊正致力於一個科技解法,稱為「科學式AI」(Scientist AI)。這個程式以無私、理想化的科學家為範型,只想了解這個世界,而非為了代理,這有別於目前的AI系統訓練方式是為了模仿或取悅我們,以致產生這些不值得信任的代理行為。那麼,目前該怎麼做?班吉歐認為,我們未來還是需要代理式AI,但也要有科學式AI作為護欄,阻止不可信的AI代理出現不良行動;此外,科學式AI由於設計的方式,還可協助我們加速有益人類的科學研究。因此,他呼籲,我們需要更多這種科學計畫,針對AI安全性的挑戰,探索出解決之道,而且需要快馬加鞭,為了我們所愛的子子孫孫。而今,班吉歐走出自己的舒適圈,與同僚在實驗室努力扛起這種科學性的挑戰。同時,科學團隊也需要世人的支持並理解AI發展目前所存在的風險。如此一來,「我們才能將社會導向一個安全路徑,讓子孫們的快樂和努力獲得保護。」班吉歐期許未來先進式的AI成為有益全球公眾的利器,在安全性的管理下,有助於人類蓬勃發展,人人受益。 前一篇文章 【Herstory96】社企家賈思敏 發揮愛心 好事做到底 下一篇文章 【趨勢人物101】氣候戰略家雷米拉德 在淨零排放目標中看見好生意 熱門新聞 01【詩】疲於奔命2026.11.1202U23抗日成功 亞冠賽無緣冠軍戰2026.11.1503COP31座談佛光會參與 探討心靈與氣候復原力2026.11.1204勝鬘書院印尼參學 走訪千年佛教聖地2026.11.1705高雄佛教堂遷移 延續歷史傳承信仰 2026.11.1406COP31跨宗教對話 佛光會分享四給精神2026.11.1407喵星人天冷變高麗菜捲 萌翻網友2026.11.1208老鷹倒臥車道 竟是胖到飛不動2026.11.1209女兵攜犬排雷 清出難民返家路2026.11.121092歲翁首抱孫 成最年長新手阿公2026.11.12 訂閱電子報 台北市 天氣預報 台灣一週天氣預報 相關報導 【生活智人178】溝通專家阿特爾 教你如何「展現」真實力【生活智人177】政治政策專家泰米‧派弗 教你如何嚴防家中政治口水戰【生活智人176】心理學家保羅‧布倫 籲打造AI伴侶最佳範本 排遣孤寂【風雲人物58】原住民維權人士科達利斯 帶領拆除水壩 重現大自然生機 作者其他文章【生活智人137】漫畫家納維德用藝術療癒悲傷【Herstory86】英國影后蔓薇爾 活出獨立自主的光采