文／楊慧莉

AI（人工智慧）的時代來臨了，本該讓人欣喜科技發展又往前推進了一步，但也不免讓人憂心其發展一發不可收拾。當各種管控和駕馭的聲音紛紛出現時，有個聲音異軍突起，鼓吹將一般大眾使用後的回饋一起納入AI的研發，讓研發更臻完善，有利無害。鼓吹者是有「AI道德學者」之稱的喬杜里……

做就對了
最酷的數據科學家

魯姆曼‧喬杜里（Rumman Chowdhury, 1980-）是孟加拉裔的美國數據科學家。她主張在AI系統研發的核心演算中植入人道的部分，於是與人聯合創辦了非營利機構「人道智慧」企業（Humane Intelligence），並成為執行長，聚焦於AI系統安全而道德性的發展。

由於在AI道德和信任領域的長期貢獻，喬杜里榮登《時代》雜誌二○二三年「AI領域百大最有影響力人物」之一。此外，她也是BBC二○一七年「百大最有影響力的女性」之一、美國今年AI領域科學代表之一，以及哈佛大學伯克曼網際網路與社會研究中心負責任AI領域成員。

斜槓界佼佼者

儘管在AI領域已有受人矚目的成就，但數據科學卻非喬杜里當初所學。原來，她是政治學出身，在獲得麻省理工學院政治學碩士學位後，有了相關的工作資歷。現在流行斜槓，約八年前喬杜里已是箇中好手。當時，她便開始運用數據科學，且即將接下在美國矽谷一個跟AI有關的新工作，同時還在加州大學聖地牙哥分校念博士學位。

從政治學轉入數據科學，不免讓人有些詫異，但喬杜里認為，兩個領域相近，都會研究行為模式，而她對人和數據都有興趣，也清楚要如何讓兩者有所關聯。

她進一步指出，數據科學的目的是使用模型、數據和演算法協助業者理解他們的客戶和改善其商品，而她的政治學背景讓她得以用人性和有點非理性的觀點去處理數據。

喬杜里了解自己的強項是對人的理解，但她想以數學的方式切入。大學畢業後，她曾在公共政策和非營利機構待過，但有些挫敗，因為她知道我們其實可以有效運用模型和數據。於是，她又去哥倫比亞大學充電，獲得定量法的碩士學位。之後，她成為經濟學家，幫美國、英國和澳洲計算經濟指標，接著又從事一些以數據科學為本的諮商工作，即翻查數據、做出模型，運用模型找出具體、人們可加以使用的方法，即便數據科學的領域當時尚不存在。而在這個新的領域起步時，她便積極投入，覺得該對數據科學的認知有所影響，並協助形塑對它理解和實施的方式。

勇於多方嘗試

成長於美國科幻片《X檔案》正盛時期，喬杜里坦承自己一如同世代的許多女孩，深受片中女主角「史卡利」的影響，「她是一位在男性主宰環境下的堅強女性，為了與一起共事的男性平起平坐，她不妥協，我想向她看齊。」

而今，喬杜里已在職場多年，發現科技界仍是男性主宰。舉例而言，她在一些地方授課，便留意到有招聘人員聯繫她的一些男學生，而且提供的是她這個經歷才夠格的職位，但對方所提供給她的，卻是初階工作。除了性別，她想不出來還有什麼原因造成這種不公。另外，由於她的名字很中性，有一次她去面試，面試官看到她說，「我們不知道你是女的耶。」於是，她便反問，「什麼意思啊？」

喬杜里多年求職的經驗是，不管工作有多顯赫、薪水有多高，如果老闆很難共事，寧可走人，因為太痛苦了。因此，她選工作其實是在選老闆。一旦老闆對了，她就會工作上癮。工作之餘，喬杜里也喜歡學習新事物，而且是學有專精。比方說，她學瑜伽，便拿到教師訓練執照。她還跟一位黑帶四段的阿根廷女老師學空手道。

而不管做什麼，喬杜里都不怕失敗。關於這點，她要歸功於研究所老師的教導。在念博士班時，她很習慣被當掉了。她表示，矽谷流行「快速失敗」的說法，也就是大膽去做，快點做，會成功就會成功，你必須戰勝完美主義，明白就算失敗、沒拿到工作，明天照樣會醒來。

因此，喬杜里努力不再對自己能做的事目光短淺，就算不是很清楚自己即將做的事，也會嘗試看看。她相信自己一定可以理出頭緒。

共襄盛舉
AI人生 有你一分

作為數據科學家，喬杜里主張AI的發展應納入非專家的意見，才能修正研發過程中的缺失。而她從過去一場發生於農民身上的電器用品修復權運動獲得靈感，深感相同的權利也應延伸至AI領域。

話說，現代農業也運用了大量科技，在二○一七年到達一個緊要關頭。當時，強鹿公司（John Deere）引進了一款智慧型的曳引機。在此之前，如果農民的曳引機壞了，自己可以修理或拿去給技師修理。智慧型曳引機推出後，這家公司規定農民不能自己修，而是要雇用有執照的技師，代表農民得等待數周，任憑作物爛掉、遭蟲害。

因此，農民們決定自行解決問題。他們有些學習電腦程式，有些跟駭客合作，研發出修補程式，修復故障的系統。二○二二年，在全球最大的電腦安全會議「DEFCON 」上，一名代號為「Sick Codes」的安全研究人員展示他和團隊如何駭進強鹿公司所生產的曳引機，藉此彰顯科技是很脆弱的，但你可以也應該擁有自己的工具，也就此開啟「修復權」運動——其意涵便是如果你擁有一項科技產品，不管是一台曳引機、智慧型牙刷、洗衣機，萬一它壞掉了，你都該有權利去修理它。

建立防禦機制

喬杜里主張，相同的修復權也應適用於AI產業。而今，AI似乎每周都有亮眼的創新，但根據她的觀察，民眾信心在下滑：皮尤研究中心的民調顯示，愈來愈多美國人對此科技的擔憂多於興奮；蓋洛普世界風險民意調查則顯示，中南美洲和非洲的受訪者都覺得AI對人民的弊多於利。

此結果讓對科技樂觀的喬杜里沮喪，因為她相信AI可以將人類帶向美好。到底哪裡發生問題？她想了解。於是在過去幾年問了各界人士，大家都說了同樣的事情，覺得事後才被考慮到。他們都知道手邊數據常在未經許可下被拿去建造出複雜的AI系統，而且這些系統也會影響他們的生存機會，也明白沒人會多事的徵求他們的意見，當然如果系統出問題也不會知道該如何是好。

現實是，我們可能沒擁有AI系統，但這些系統卻慢慢主宰我們的生命。喬杜里認為，在AI系統研發者和系統運用代表之間需要有個更好的回饋機制，而要落實可仿效軍隊中「紅隊演練／攻擊演練」（red teaming），也就是讓外部專家闖入系統，如同「Sick Codes」對曳引機的做法。紅隊演練其實就是測試你防禦力的方法，而當你知道哪裡會出問題，就可找出修復的方法。

AI修復實例

不過，AI失常，可能不只是駭客闖入就能搞定。AI基礎模型可能會失靈或扭曲現實。針對這點，喬杜里表示，「不久前，我們看到AI系統為了展現多元性，秀出跟史實不符的照片。了解西洋史的人都知道美國開國元勳或納粹軍人不會是黑人。如此一來，誰夠格當專家呢？就是你啊！」

而至今，她已跟全球數千人合作過大大小小的紅隊演練，藉此發現並修正了AI模型上的錯誤，合作對象也包括OpenAI、Meta、 Anthropic、 Google等全球大型科技公司。透過這種合作，讓AI模型的運作更有利於多數人。

舉例而言，在喬杜里團隊與英國皇家學會一些病理學家的合作中發現，AI模型在防堵新冠的錯誤資訊上做得很好，但相同的保護機制卻無法適用於麻疹、腮腺炎、流感等病症，於是呈報給負責研發單位，做出修正，而今能全面免於科學上的錯誤資訊和假資訊。

後來，喬杜里團隊也跟學習社群歐特克大學（Autodesk University）的建築師合作，並問他們一個問題：AI是否會讓他們丟飯碗，更具體來說，AI系統能否設計出一座現代藝術博物館？答案是：不會！原因是建築師不只是畫出建築草圖，還得懂物理、材料學、建築法規及什麼樣的建築可引發情感；他們需要AI系統給他們一些實在的回饋，也許是一些設計上的建言。

目前的AI系統尚無法做到，而這些都是技術問題，建造AI的人也很聰明，或許再過幾年就可解決所有問題。

信任來自參與

不過，建築師最關心的還是信任問題。建築設計只要有任何失誤，造成人命傷亡，如出口設計錯誤，導致緊急疏散時人群被擠壓，就會讓建築師丟失執照、罰款、甚至坐牢。因此，建築師如果發現錯誤卻無法進去修正，怎麼可能信任AI系統？

有鑑於此，喬杜里認為我們今天需要釐清這些問題。她表示，下一波的AI系統稱為「代理AI」，其角色形同人類助理；舉例而言，醫療代理可處理你家要不要預約醫師等相關事宜，AI代理如想代勞，除非我們有修正權和可做基本診斷，否則哪個家長可將孩子的健康交託在AI系統裡。

關於修復權，喬杜里的想法是，可以有個診斷板讓人操作自行設計的基本測試，如果有問題，就向AI系統所屬公司呈報並聽取修復結果，或是找尋第三方有道德的駭客設計修補程式讓大家下載一起改善。

喬杜里表示，AI無法克盡其功，除非能想出一個方法，讓大家都能參與其研發過程。她投入負責任的AI設計領域良久，過去她和團隊會問，科技公司該做些什麼，才能讓人們信任AI？而今她恍然大悟，真正的問題應該是，我們該建構什麼樣的工具，人們才能據以做出真正讓人受益的AI。她相信，科技人無法自行其是，只有大家共襄盛舉，才能互蒙其利。