【本報綜合外電報導】英國與南韓21至22日共同舉辦人工智慧(AI)安全峰會。英國政府表示,已有來自北美、歐洲、中東、亞洲等16家企業簽署與AI科技研發有關的安全承諾,其中包括中國大陸企業「智譜AI」。
英國政府尋求在AI安全國際規範和技術標準扮演領導角色,促進在「嚴加管制」和「自由放任」兩種AI安全管控策略之間,取得平衡,並成立全球第一所「AI安全研究院」,透過預先取得業界開發中產品等方式,實際測試評估各類新AI模型和工具的能力及風險,以協助增進各國對AI安全的理解。
去年11月,英國召開首屆全球AI安全峰會,有近30個國家的官方代表,以及超過80個學術研究機構、企業和組織與會。這次英國與南韓合辦線上峰會規模較小,下一場實體峰會則由法國主辦,明年召開。
蘇納克、尹錫悅 將主持會議
根據議程,英國首相蘇納克(Rishi Sunak)和南韓總統尹錫悅,以及英國科技大臣唐萃蘭(Michelle Donelan)和南韓科技部長李宗昊會在21和22日分別共同主持高階會議。
據英國科學創新暨科技部資料,峰會尚未正式展開,已有16家AI科技企業簽署安全承諾,要點包括不得發展或部署安全風險無法獲充分緩解的AI模型或系統、建立可供問責的安全管理架構,以及向大眾揭露各企業對前沿AI科技安全的應處策略。
16家簽署「前沿AI安全承諾」的企業包括OpenAI、亞馬遜、谷歌、Meta、微軟、IBM、三星電子、Naver、智譜AI等。
這16家企業名單,包含美國和中國大陸兩大AI強權。
科技部表示,這些企業將各自發布AI安全框架,向大眾說明未來將如何測算自家前沿AI模型的安全風險,包括遭惡意行為者濫用的風險,以及各家企業對安全風險的最高容忍極限為何、如何確保AI模型的安全風險,不會超越此預設門檻。
在極端情況下,若企業在採取補救措施後,仍未能將AI模型或系統的安全風險保持在門檻以下,則不得繼續發展或進一步部署該模型或系統。
歐盟通過AI法案 首重風險
此外,路透報導,歐盟21日也通過了備受矚目的AI法案,成為世界第一個通過類似法案的地區,也可望成為許多國家起草類似法案時的重要參考依據。
歐盟採取的系統,是以評量「風險」來設置規則,風險愈高的AI系統,則要求與限制愈多。這些規則主要適用於商用的AI服務及應用,軍用或是研究用的AI,得視情況予以豁免。
完整的法案內容,將在歐盟高峰會主席以及歐洲議會議長簽署之後公告,公告20天生效。