【本報綜合外電報導】彭博引述知情人士報導,白宮已告知美國主要人工智慧(AI)公司,川普政府正在制定的新AI安全框架,將不會對「開放權重」模型進行政府安全測試,中國大陸企業開發的相關模型也適用。這項決定是在4日舉行的白宮閉門會議上告知業界代表。
路透指出,白宮邀集Meta、Anthropic、Google、輝達和OpenAI人員討論尚未公開的測試規則。「開放權重」模型與「開源」模型不完全一樣;「開放權重」模型通常只開放模型權重,開源則可能包含程式碼、訓練方法與更多細節。
陸企模型適用 引發安全疑慮
「開放權重」模型包括輝達的Nemotron和Meta的Llama,大陸「月之暗面」、DeepSeek等AI新創公司產品也是開放權重模式。閉源模型則由特定公司控制,美國主要閉源模型開發商包括OpenAI、Google和Anthropic。
此前,OpenAI和Anthropic才先後揭露旗下AI工具在測試期間,曾駭入其他公司系統,引發美議員憂心,AI模型功能愈來愈強大,恐被用於發動或協助網路攻擊。OpenAI和Anthropic4日表示,旗下模型又涉及在測試期間發生網路安全事件。
科技政策倡議團體「負責任創新美國人」表示,川普政府僅向少數公司透露這套架構,而非向大眾公開,「擴大聯邦監管的嚴重漏洞,讓外界質疑聯邦政府如何評估先進AI模型的安全性」。
川普政府6月曾表示,AI安全性測試是專為具複雜網路攻擊能力的AI模型所設計,屬自願性質,而OpenAI和Anthropic均擁有具先進網路攻擊能力的模型。
彭博報導,華府部分官員曾考慮限制開放權重模型,引發部分科技企業反對。包括輝達執行長黃仁勳在內的矽谷業界領袖主張,開放權重模型有利於AI長期發展,也有助提升安全性。
不過,Anthropic執行長阿莫戴主張,政府應強制審查開放及專有模型,並曾暗示陸製AI模型可能違反美國規定。美財政部長貝森特等高階官員也表達過類似疑慮。
加速創新 黃仁勳挺開源模型
而為因應大陸企業推出多款強大開源、開放權重人工智慧(AI)模型,川普政府成立一個核心小組,起初主張大舉干預可自由下載和修改的開源AI模型,但在受到矽谷強烈反對後改變主意,轉而專注於推動美國AI模型以提升競爭力,政策尚未完全定調。
5名知情人士表示,高級官員曾考慮過一系列行動,包括實施制裁、將開發這些開源模型的大陸公司列入貿易黑名單,甚至禁止美國雲端服務公司與它們開展業務。
但因矽谷科技業強烈反對,他們似乎改變主意,轉而推動美國AI模型提升競爭力;輝達執行長黃仁勳即是支持開源模型的代表人物,他在X貼文中稱,開源模型加速創新並強化安全性。