【趨勢人物87】 美國數據科學家 喬杜里 邀你一起搞定AI系統

文/楊慧莉  |2024.07.20
793觀看次
字級
建築師不只是畫出建築草圖,還得懂物理、材料學、建築法規及什麼樣的建築可引發情感。圖/Pexels
AI無法克盡其功,除非能想出一個方法,讓人人都能參與其研發過程。圖/Pexels

文/楊慧莉

AI(人工智慧)的時代來臨了,本該讓人欣喜科技發展又往前推進了一步,但也不免讓人憂心其發展一發不可收拾。當各種管控和駕馭的聲音紛紛出現時,有個聲音異軍突起,鼓吹將一般大眾使用後的回饋一起納入AI的研發,讓研發更臻完善,有利無害。鼓吹者是有「AI道德學者」之稱的喬杜里……

做就對了
最酷的數據科學家


魯姆曼‧喬杜里(Rumman Chowdhury, 1980-)是孟加拉裔的美國數據科學家。她主張在AI系統研發的核心演算中植入人道的部分,於是與人聯合創辦了非營利機構「人道智慧」企業(Humane Intelligence),並成為執行長,聚焦於AI系統安全而道德性的發展。

由於在AI道德和信任領域的長期貢獻,喬杜里榮登《時代》雜誌二○二三年「AI領域百大最有影響力人物」之一。此外,她也是BBC二○一七年「百大最有影響力的女性」之一、美國今年AI領域科學代表之一,以及哈佛大學伯克曼網際網路與社會研究中心負責任AI領域成員。

斜槓界佼佼者

儘管在AI領域已有受人矚目的成就,但數據科學卻非喬杜里當初所學。原來,她是政治學出身,在獲得麻省理工學院政治學碩士學位後,有了相關的工作資歷。現在流行斜槓,約八年前喬杜里已是箇中好手。當時,她便開始運用數據科學,且即將接下在美國矽谷一個跟AI有關的新工作,同時還在加州大學聖地牙哥分校念博士學位。

從政治學轉入數據科學,不免讓人有些詫異,但喬杜里認為,兩個領域相近,都會研究行為模式,而她對人和數據都有興趣,也清楚要如何讓兩者有所關聯。

她進一步指出,數據科學的目的是使用模型、數據和演算法協助業者理解他們的客戶和改善其商品,而她的政治學背景讓她得以用人性和有點非理性的觀點去處理數據。

喬杜里了解自己的強項是對人的理解,但她想以數學的方式切入。大學畢業後,她曾在公共政策和非營利機構待過,但有些挫敗,因為她知道我們其實可以有效運用模型和數據。於是,她又去哥倫比亞大學充電,獲得定量法的碩士學位。之後,她成為經濟學家,幫美國、英國和澳洲計算經濟指標,接著又從事一些以數據科學為本的諮商工作,即翻查數據、做出模型,運用模型找出具體、人們可加以使用的方法,即便數據科學的領域當時尚不存在。而在這個新的領域起步時,她便積極投入,覺得該對數據科學的認知有所影響,並協助形塑對它理解和實施的方式。

勇於多方嘗試

成長於美國科幻片《X檔案》正盛時期,喬杜里坦承自己一如同世代的許多女孩,深受片中女主角「史卡利」的影響,「她是一位在男性主宰環境下的堅強女性,為了與一起共事的男性平起平坐,她不妥協,我想向她看齊。」

而今,喬杜里已在職場多年,發現科技界仍是男性主宰。舉例而言,她在一些地方授課,便留意到有招聘人員聯繫她的一些男學生,而且提供的是她這個經歷才夠格的職位,但對方所提供給她的,卻是初階工作。除了性別,她想不出來還有什麼原因造成這種不公。另外,由於她的名字很中性,有一次她去面試,面試官看到她說,「我們不知道你是女的耶。」於是,她便反問,「什麼意思啊?」

喬杜里多年求職的經驗是,不管工作有多顯赫、薪水有多高,如果老闆很難共事,寧可走人,因為太痛苦了。因此,她選工作其實是在選老闆。一旦老闆對了,她就會工作上癮。工作之餘,喬杜里也喜歡學習新事物,而且是學有專精。比方說,她學瑜伽,便拿到教師訓練執照。她還跟一位黑帶四段的阿根廷女老師學空手道。

而不管做什麼,喬杜里都不怕失敗。關於這點,她要歸功於研究所老師的教導。在念博士班時,她很習慣被當掉了。她表示,矽谷流行「快速失敗」的說法,也就是大膽去做,快點做,會成功就會成功,你必須戰勝完美主義,明白就算失敗、沒拿到工作,明天照樣會醒來。

因此,喬杜里努力不再對自己能做的事目光短淺,就算不是很清楚自己即將做的事,也會嘗試看看。她相信自己一定可以理出頭緒。

共襄盛舉
AI人生 有你一分


作為數據科學家,喬杜里主張AI的發展應納入非專家的意見,才能修正研發過程中的缺失。而她從過去一場發生於農民身上的電器用品修復權運動獲得靈感,深感相同的權利也應延伸至AI領域。

話說,現代農業也運用了大量科技,在二○一七年到達一個緊要關頭。當時,強鹿公司(John Deere)引進了一款智慧型的曳引機。在此之前,如果農民的曳引機壞了,自己可以修理或拿去給技師修理。智慧型曳引機推出後,這家公司規定農民不能自己修,而是要雇用有執照的技師,代表農民得等待數周,任憑作物爛掉、遭蟲害。

因此,農民們決定自行解決問題。他們有些學習電腦程式,有些跟駭客合作,研發出修補程式,修復故障的系統。二○二二年,在全球最大的電腦安全會議「DEFCON 」上,一名代號為「Sick Codes」的安全研究人員展示他和團隊如何駭進強鹿公司所生產的曳引機,藉此彰顯科技是很脆弱的,但你可以也應該擁有自己的工具,也就此開啟「修復權」運動——其意涵便是如果你擁有一項科技產品,不管是一台曳引機、智慧型牙刷、洗衣機,萬一它壞掉了,你都該有權利去修理它。

建立防禦機制

喬杜里主張,相同的修復權也應適用於AI產業。而今,AI似乎每周都有亮眼的創新,但根據她的觀察,民眾信心在下滑:皮尤研究中心的民調顯示,愈來愈多美國人對此科技的擔憂多於興奮;蓋洛普世界風險民意調查則顯示,中南美洲和非洲的受訪者都覺得AI對人民的弊多於利。

此結果讓對科技樂觀的喬杜里沮喪,因為她相信AI可以將人類帶向美好。到底哪裡發生問題?她想了解。於是在過去幾年問了各界人士,大家都說了同樣的事情,覺得事後才被考慮到。他們都知道手邊數據常在未經許可下被拿去建造出複雜的AI系統,而且這些系統也會影響他們的生存機會,也明白沒人會多事的徵求他們的意見,當然如果系統出問題也不會知道該如何是好。

現實是,我們可能沒擁有AI系統,但這些系統卻慢慢主宰我們的生命。喬杜里認為,在AI系統研發者和系統運用代表之間需要有個更好的回饋機制,而要落實可仿效軍隊中「紅隊演練/攻擊演練」(red teaming),也就是讓外部專家闖入系統,如同「Sick Codes」對曳引機的做法。紅隊演練其實就是測試你防禦力的方法,而當你知道哪裡會出問題,就可找出修復的方法。

AI修復實例

不過,AI失常,可能不只是駭客闖入就能搞定。AI基礎模型可能會失靈或扭曲現實。針對這點,喬杜里表示,「不久前,我們看到AI系統為了展現多元性,秀出跟史實不符的照片。了解西洋史的人都知道美國開國元勳或納粹軍人不會是黑人。如此一來,誰夠格當專家呢?就是你啊!」

而至今,她已跟全球數千人合作過大大小小的紅隊演練,藉此發現並修正了AI模型上的錯誤,合作對象也包括OpenAI、Meta、 Anthropic、 Google等全球大型科技公司。透過這種合作,讓AI模型的運作更有利於多數人。

舉例而言,在喬杜里團隊與英國皇家學會一些病理學家的合作中發現,AI模型在防堵新冠的錯誤資訊上做得很好,但相同的保護機制卻無法適用於麻疹、腮腺炎、流感等病症,於是呈報給負責研發單位,做出修正,而今能全面免於科學上的錯誤資訊和假資訊。

後來,喬杜里團隊也跟學習社群歐特克大學(Autodesk University)的建築師合作,並問他們一個問題:AI是否會讓他們丟飯碗,更具體來說,AI系統能否設計出一座現代藝術博物館?答案是:不會!原因是建築師不只是畫出建築草圖,還得懂物理、材料學、建築法規及什麼樣的建築可引發情感;他們需要AI系統給他們一些實在的回饋,也許是一些設計上的建言。

目前的AI系統尚無法做到,而這些都是技術問題,建造AI的人也很聰明,或許再過幾年就可解決所有問題。

信任來自參與

不過,建築師最關心的還是信任問題。建築設計只要有任何失誤,造成人命傷亡,如出口設計錯誤,導致緊急疏散時人群被擠壓,就會讓建築師丟失執照、罰款、甚至坐牢。因此,建築師如果發現錯誤卻無法進去修正,怎麼可能信任AI系統?

有鑑於此,喬杜里認為我們今天需要釐清這些問題。她表示,下一波的AI系統稱為「代理AI」,其角色形同人類助理;舉例而言,醫療代理可處理你家要不要預約醫師等相關事宜,AI代理如想代勞,除非我們有修正權和可做基本診斷,否則哪個家長可將孩子的健康交託在AI系統裡。

關於修復權,喬杜里的想法是,可以有個診斷板讓人操作自行設計的基本測試,如果有問題,就向AI系統所屬公司呈報並聽取修復結果,或是找尋第三方有道德的駭客設計修補程式讓大家下載一起改善。

喬杜里表示,AI無法克盡其功,除非能想出一個方法,讓大家都能參與其研發過程。她投入負責任的AI設計領域良久,過去她和團隊會問,科技公司該做些什麼,才能讓人們信任AI?而今她恍然大悟,真正的問題應該是,我們該建構什麼樣的工具,人們才能據以做出真正讓人受益的AI。她相信,科技人無法自行其是,只有大家共襄盛舉,才能互蒙其利。

熱門新聞
訂閱電子報
台北市 天氣預報   台灣一週天氣預報

《人間福報》是一份多元化的報紙,不單只有報導佛教新聞,乃以推動祥和社會、淨化人心為職志,以關懷人類福祉、追求世界和平為宗旨,堅持新聞的準度與速度、廣度與深度,關懷弱勢族群與公益;強調內容溫馨、健康、益智、環保,不八卦、不加料、不阿諛,希冀藉由優質的內涵,體貼大眾身心靈的需要、關懷地球永續經營、延續宇宙無窮慧命,是一份承擔社會責任的報紙。自許成為「社會的一道光明」的《人間福報》任重而道遠,在秉持創辦人星雲大師「傳播人間善因善緣」的理念之際,更將堅持為社會注入清流,讓福報的發行為人間帶來祥和歡喜,具體實現「人間有福報,福報滿人間」的目標。
人間福報社股份有限公司 統編:70470026

 
聯絡我們 隱私權條款

Copyright © 2000-2024 人間福報 www.merit-times.com.tw
All Rights Reserved.