【本報綜合外電報導】英國與南韓21至22日共同舉辦人工智慧（AI）安全峰會。英國政府表示，已有來自北美、歐洲、中東、亞洲等16家企業簽署與AI科技研發有關的安全承諾，其中包括中國大陸企業「智譜AI」。

英國政府尋求在AI安全國際規範和技術標準扮演領導角色，促進在「嚴加管制」和「自由放任」兩種AI安全管控策略之間，取得平衡，並成立全球第一所「AI安全研究院」，透過預先取得業界開發中產品等方式，實際測試評估各類新AI模型和工具的能力及風險，以協助增進各國對AI安全的理解。

去年11月，英國召開首屆全球AI安全峰會，有近30個國家的官方代表，以及超過80個學術研究機構、企業和組織與會。這次英國與南韓合辦線上峰會規模較小，下一場實體峰會則由法國主辦，明年召開。

蘇納克、尹錫悅 將主持會議

根據議程，英國首相蘇納克（Rishi Sunak）和南韓總統尹錫悅，以及英國科技大臣唐萃蘭（Michelle Donelan）和南韓科技部長李宗昊會在21和22日分別共同主持高階會議。

據英國科學創新暨科技部資料，峰會尚未正式展開，已有16家AI科技企業簽署安全承諾，要點包括不得發展或部署安全風險無法獲充分緩解的AI模型或系統、建立可供問責的安全管理架構，以及向大眾揭露各企業對前沿AI科技安全的應處策略。

16家簽署「前沿AI安全承諾」的企業包括OpenAI、亞馬遜、谷歌、Meta、微軟、IBM、三星電子、Naver、智譜AI等。

這16家企業名單，包含美國和中國大陸兩大AI強權。

科技部表示，這些企業將各自發布AI安全框架，向大眾說明未來將如何測算自家前沿AI模型的安全風險，包括遭惡意行為者濫用的風險，以及各家企業對安全風險的最高容忍極限為何、如何確保AI模型的安全風險，不會超越此預設門檻。

在極端情況下，若企業在採取補救措施後，仍未能將AI模型或系統的安全風險保持在門檻以下，則不得繼續發展或進一步部署該模型或系統。

歐盟通過AI法案 首重風險

此外，路透報導，歐盟21日也通過了備受矚目的AI法案，成為世界第一個通過類似法案的地區，也可望成為許多國家起草類似法案時的重要參考依據。

歐盟採取的系統，是以評量「風險」來設置規則，風險愈高的AI系統，則要求與限制愈多。這些規則主要適用於商用的AI服務及應用，軍用或是研究用的AI，得視情況予以豁免。

完整的法案內容，將在歐盟高峰會主席以及歐洲議會議長簽署之後公告，公告20天生效。