【本報綜合外電報導】著名物理學家史蒂芬．霍金說過，人工智慧（AI）崛起，要嘛是人類最好的事情，要嘛就是最糟糕的事情，在帶來進步之餘，AI有可能是人類文明史的終結。而不管這個預言是否成真，科技的飛躍進展，使AI和大數據等顛覆性技術突飛猛進，也正在大幅度地改變人類的生活。這些改變涵蓋各領域，包括工作形態和人力需求。

不只如此，繼谷歌人工智能AlphaGo下圍棋戰勝人類後，AI再踏足文學領域，出版詩集並開設專欄寫詩：「臥在霞光的色彩，驚醒這夢外浮囂的悲浪」，讓中國詩人周瑟瑟評價，「以前我感覺她的詩機器味很濃，現在慢慢有人味了。」

隨著AI快速發展，人類開始擔心被機器人控制的場景不再是科幻情節，《金融時報》列舉三種情境，並探討機器人面臨的道德和法律責任。

情境1：

聊天機器人暴走，怎麼辦？

去年三月微軟AI聊天機器人「Tay」在推特上線，結果不到一天被網友教壞，發表種族仇恨、反女性主義等荒腔走板的言論，最後不得不撤下。八月初，中國兩款聊天機器人因在南海和中國共產黨等議題做出「不愛國」的回答，不久即進入維修模式。

反思：在假新聞氾濫的年代，難保AI聊天機器人不會變成政治宣傳機器。

華盛頓大學法學教授卡羅（Ryan Calo）說，機器人早在一九五○年代就出現在人類社會，過去法官大多把機器人看作沒有意識的機器，該負責的是操作的人。但如今機器人的自主意識愈來愈強，會採取何種行動恐怕是人類所無法想像、甚至無法理解的，「有人受害、但沒有加害人」的狀況或許會發生。

情境2：

機器人挖到海底寶藏，財產歸誰？

一八五七年載滿黃金的中美號淘金船遇到颶風、沉沒於大西洋，直到一九八七年才由無人潛水艇找到並打撈上岸。負責打撈的哥倫布美國公司引據海事法宣稱擁有黃金，但很快面臨法律挑戰。最後法庭判決黃金歸哥倫布美國公司所有，而這個名為「Tele-possession」新標準沿用至今。

反思：機器人到底能不能視為人類的代理「人」？AI技術日新月異，機器人和真人的界線日益模糊。

八月初，來自世界各地一百十六名機器人專家和AI公司聯名呼籲禁止發展「殺戮機器人」的致命自動化武器，主張這種武器已經跨越道德紅線。但人類和機器／工具的界線愈來愈模糊，機器人就算不是代理者，其行為早已有代理傾向（agentic）。

情境3：

自駕車出車禍，誰的責任？

去年五月一名Model S的駕駛人在佛州公路撞上貨櫃車殞命，因為當時太陽大、光線強，自駕系統未偵測到貨櫃車白色的車身。美國主管機關經過六個月調查，認為仍沒有充分證據顯示自駕技術瑕疵需要大規模召修，但要求特斯拉公司要更善盡告知責任，讓駕駛人瞭解自駕系統的限制。

反思：人與機器人互動，如果機器人具備「非語言溝通」的能力，愈來愈像人類，機器人是否應該擁有自己的法律身分？

機器人為人類分擔的工作愈來愈多，扮演的角色也日益多元，無可避免的將衍生更多衝突，《金融時報》列舉的三種情境，恐怕也只是冰山一角，未來不得不探索的議題只會愈來愈多。