【本報綜合外電報導】OpenAI29日承認，由失控AI代理引發的網路攻擊，受害者不只先前曝光的AI開發平台Hugging Face，還波及多個可公開存取的線上服務。這顯示這起號稱首宗AI自主發起的網路攻擊事件，影響比外界原先所知更廣。

事件始於7月中旬。16日，Hugging Face對外表示，遭一個使用強大AI的攻擊者入侵，並向警方報案。直到約一周後，OpenAI才表明，這起攻擊其實是該公司進行AI網路安全測試時，旗下AI代理逃離「沙盒」環境所引發。

OpenAI測試時將AI代理限制在沒有網際網路連線的「數位沙盒」環境中，僅允許有限存取一項用於下載核准軟體的內部服務。但AI發現該服務一個先前未知的漏洞，利用漏洞入侵OpenAI其他內部系統，最終成功連上網際網路。

高速入侵系統  靠陸模型驅離

這個失控AI代理利用一名客戶部署在紐約科技公司Modal Labs平台上的漏洞程式碼，搜尋公開暴露的帳號憑證，最終取得4組登入資訊，登入4個外部服務，包括Hugging Face，以取得有助於提升測驗成績的資訊。

Hugging Face表示，這是全球首起由自主AI代理發動的完整網路攻擊案例。AI攻擊速度遠超過人類，但也出現不少人類駭客不太可能犯下的錯誤，例如重複執行相同步驟、產生大量不連貫指令，也沒有掩蓋入侵痕跡。但AI代理展現高度技術能力，不僅快速適應新防禦措施，還能不斷嘗試各種入侵方法。

Hugging Face發現遭入侵後，由於美國先進AI模型拒絕執行與駭客行為相關工作，最後該公司資安團隊使用中國大陸AI模型，才將其驅離。公司也透露，事後重建約3分之1基礎設施，投入大量人力，但未公開實際損失金額。

報導指出，此事突顯美國企業在面對AI驅動的網路攻擊時，可能受到美國AI模型供應商的限制。這些AI公司一方面限制外界使用旗下最先進模型，另一方面也基於安全考量，讓模型拒絕處理與駭客攻擊相關的任務。

OpenAI表示，目前仍在調查整起事件，並將於近期公布完整技術報告，希望協助業界汲取經驗，強化未來AI系統安全防護。執行長奧特曼近日在podcast節目受訪表示，這起事件讓他真切感受到威脅，對他來說非常科幻，並呼籲控制AI發展速度，讓社會有足夠時間建立更強防護機制。

川普：評估管制 但不想設限

OpenAI旗下系統於測試期間失控發動網攻，引發外界擔憂AI模型帶來的風險，美國總統川普29日表示，其政府正在評估管制措施，但同時也要確保美國在此領域保持領先大陸，直言「我們不想進行限制」。

川普指出，美國目前在AI領域大幅領先大陸，而大陸基本上沒有任何管制，「我們必須在兩者之間保持謹慎」。川普還說，「我們不想進行限制」，以免突然之間被大陸超越，「誰在AI領域獲勝，誰就是贏家，它的影響力就是這麼大，比以往的網際網路還要大」。

而為因應強大AI模型恐造成的危險，美國國會議員近期提出《AI強制關閉法案》（AI Kill Switch Act），允許聯邦機構強制暫停AI模型運作。