編譯／潘楠慕
人工智慧（AI）已成當前顯學，相關技術不斷提升。在許多領域，AI都可提供幫助，例如工廠、醫療、居家生活。然而，AI愈來愈「聰明」，甚至具有自主性，也引發疑慮，如果強大的人工智慧失控，行為偏差，人類該如何應對？
針對這項憂慮，堪薩斯州立大學（KSU）的研究人員提出一項大膽但相當有趣的理論：既然人工智慧是模擬人類，那用在人類身上有效的精神病理學，是否可在調整後，用來治療或是矯正有問題的AI？
這個論點乍聽之下相當怪異，但絕非無的放矢。根據堪薩斯州立大學研究團隊的論文，人類認知具有的適應機制，提供快速適應動態環境的獨特技巧，但也導致人類容易罹患創傷後壓力症候群（PTSD）、憂鬱症等精神疾病。但目前的開發者，目標正是讓通用人工智慧（AGI，又稱強人工智慧）擁有與人類相同的認知機制，這也代表將來AGI不僅能夠自主適應環境，同時也可能出現和人類相同的認知障礙或精神疾病。
研究人員說明，設計AI時，是希望它能以報酬最大化「wireheading」為準則，也就是不惜動用任何可得的資源，以達成目的，然而，這種行為模式，其實和人類的妄想症或是成癮行為相似。
另外，以強化學習（RL）為目的AI開發過程，如果設定為無法達成目標將遭受懲罰和壓力，就和人類學習或工作時相同，AI也可能會出現有如人類身上的憂鬱症，或者PTSD行為障礙。
一些科學家曾經示警，如果AI過度聰明，且擁有學習能力和自我意識，可能成為人類的威脅。這些風險不僅是取代人類的工作，更可怕的是有如科幻電影中，具備自主意識，為了自我保護不惜傷害人類生命。
對於這項隱憂，研究人員早有防範，最基本的作法就是在開發AI時，加入絕對不可傷害人類的指令，並且須接受人類監控。
關於AI安全的研究，目前多數以安全意識設計和緩解技術（mitigation techniques）為主。但以AGI的複雜性和強大潛力而言，難保未來不會出現難以預期的狀況，也讓相關分析日益困難。
因此，KSU採取不同的角度，以診斷和治療的方式修復AI的行為偏差。參考人類的精神病理學（Psychopathology）研究，運用類似的架構或模式，為生病的AI提供幫助。
如果能把AI的「精神障礙」建立模型並進行驗證，未來人類便能診斷出AI的不當或失控行為，並找出系統性的治療方法來解決問題。
目前AI的進展僅到達輔助性的弱人工智慧，例如工廠自動化設備或是自駕車；科學家希望有朝一日創造真正的通用人工智慧，並且事先考慮如何管控，不讓人工智慧系統淪為不良行為的受害者，也不讓人類受到失敗或惡意的人工智慧傷害，確保通用人工智慧能夠造福全人類。
AI員工也會失業
瑞典網銀開除艾美莉亞
人工智慧（AI）擁有強大的運算力，不會疲累，不會抱怨，在許多領域都可能是取代人類。瑞典一家網路銀行原本也「聘用」了一名AI員工艾美莉亞（Amelia），但最近這家銀行卻決定將她開除，原因是她的表現不如預期。
這個結果也顯示，AI雖然優秀，但目前人類仍有許多特點是AI無法取代。
瑞典知名的網路銀行Nordnet去年夏天讓艾美莉亞開始工作，號稱可以辨識一百多種語言和簡短對話，轟動一時。但這家網銀現在決定開除唯一的AI員工，理由是她的業績不佳。
Nordnet執行長達爾葛林（Peter Dahlgren）表示：「艾美莉亞的職責和一般員工相同，我們原本想讓她處理開戶等需要花費大量時間的重複性工作，以加快業務辦理速度並提升銀行的服務滿意度，但她並未做到。艾美莉亞是我們提供給客戶的新體驗，但反應平平，並沒有壓倒性的佳評。因此，我們可能會把AI技術應用在其他業務。」
艾美莉亞是二○一七年美國科技公司IPsoft推出的人工智慧系統，這家公司由紐約大學教授杜伯（Chetan Dube）創立，過去二十年來持續創新，開發全球頂尖的AI系統。艾美莉亞被認為是世界最好的AI系統之一，目前被五十多家公司應用在醫療和金融領域。
IPSoft公司稱，艾美莉亞可以識別多種語言，協助人類進行廣泛的教學，即使遇上無法解決的問題，也會把任務升級為請求人類同事協助，然後觀察並從中學習。
另一家瑞典銀行SEB銀行導入艾美莉亞系統，業績獲得顯著提升。然而，Nordnet網銀引進艾美莉亞後，支出不減反增，去年該公司的營業利益為二點五億瑞典克朗，是該公司自二○一二年來最差表現。
雖然Nordnet網銀和艾美莉亞的賓主關係不理想，但整體而言許多企業仍看好AI技術的前景。麥肯錫研究公司的研調顯示，AI投入商業應用，可以協助員工提升四成的工作效率。另據調查，約有八成的決策人員認同AI能增加員工效率。
Nordnet銀行的狀況顯示，人工智慧也可能和人類一樣，面臨「失業」危機。只要業績、表現不如預期，便可能被更強大、更聰明的AI技術取代。
智慧家庭愈先進 安全疑慮也加深
愈來愈多人在住家採用人工智慧（AI）系統，打造所謂的「智慧家庭」。包括網路門鎖、智慧音箱、溫度調節裝置、燈光以及智慧門鈴、安全監控攝影機等。
這些設備確實為生活帶來許多便利，也日益受到歡迎。市場研究機構據Juniper Research報告指出，二○一七年智慧家庭硬體裝置與服務的營收達八百三十億美元，二○二一年時將成長為三倍。然而，有心人士透過這些裝置進行騷擾、監視、報復和控制等不當行為的案例，正不斷增加。
智慧家庭的原意，是透過網路遠端控制住家的各項設備，並保障居住者的安全和隱私。一旦遭到濫用，這項技術反而成為家暴或犯罪者的工具。
據紐約時報報導，一名受害者宣稱自家的電子鎖每天都會更換密碼，無計可施。還有人向援助機構求救，表示自家的燈光遭到控制，使她不堪其擾。美國終結家暴網的主管歐森（Erica Olsen）指出，智慧家庭裝置相關的家暴案件數量持續增加，且受害者以女性居多，令人憂心。
適當運用AI，有助防治與打擊犯罪，但物聯網（IoT）的便利同時也成為犯罪的途徑。智慧家庭的各項裝置都相互通連，只要其中一項被入侵，其他裝置都可能被駭。
數位權益團體電子前沿基金會（Electronic Frontier Foundation）安全主管加佩林（Eva Galperin）表示，許多受害者並不清楚如何被入侵，也無從防備。此外，相關的法律目前並不完整，也可能形成犯罪者的漏洞。
網路安全公司指出，物聯網充滿弱點，隨著民眾家中連網裝置數的持續增加，資安威脅的風險也不斷升高。駭客的攻擊手法不僅多變，且攻擊對象範圍也持續擴大，甚至可能挾持連網裝置轉而攻擊他人。
家庭物聯網興起勢不可擋，但擁抱最新技術的同時，除了當局需成立監管機構，制定這些裝置的安全和規範，使用者也須謹慎。有鑑於此，資安公司呼籲智慧家庭使用者，應該求助專業人士阻斷駭客攻擊路徑，定期更換防護密碼，更新及升級軟硬體，才能降低網路安全狀況的威脅。