為促進人工智慧（ＡＩ）健康發展、防止科技詐騙散播，保護人民及相關機構的權益，維護社會公共利益，中國大陸互聯網信息辦公室等多個單位，近日發布新規定，網路資訊供應商，必須標記ＡＩ生成的內容，讓使用者可以清楚辨識。

隨著ＡＩ技術的不斷發展，其ＡＩ生成的內容大量增加且愈來愈難辨認，帶來許多紛擾和挑戰，甚至造成詐騙案件。詐騙加上ＡＩ，如虎添翼，當人們還搞不清楚什麼是ＡＩ生成的內容之前，詐騙集團已經大量運用ＡＩ來進行攻擊和詐騙。

為了破除ＡＩ詐術，除了加強一般民眾的「ＡＩ識讀能力」之外，法令的規範也很重要。因此，各國正陸續訂定法律，要求標示ＡＩ生成內容，避免人們混淆了真人創作和逼真的ＡＩ生成內容，而受騙上當。

最早提出法令要求ＡＩ生成內容必須標記的是美國賓州。該州眾議院在二○二四年四月通過《ＡＩ生成內容的揭露法》草案（以下簡稱草案）。草案規定，以ＡＩ生成的各種內容，不論其形式是什麼，第一次呈現給消費者的時候，必須揭露資訊，讓消費者知道這個內容是ＡＩ生成的結果。草案不只規範內容的原始產出者，包括傳播散布者，如果明知該產出內容為ＡＩ產出，卻沒有透過「明確且顯著」的方式，揭露為ＡＩ所生成者，也屬於不公平或欺騙行為，會依賓州《不公平貿易行為與消費者保護法》規定處罰。

揭露時不可模糊帶過，必須要讓觀看者或使用者可以非常清楚且明確知道，這個內容是ＡＩ生成，不是真實的人類創作，否則仍有違法之虞。

該草案還有一個非常重要的規範是，如果ＡＩ生成的內容，涉及違反其他的政府相關法規，那麼，產出及散播該內容的人或組織，不能主張因為是出自ＡＩ生成而非人的創作，而可以規避法律責任。

美國加州及歐盟也在二○二四年分別通過《ＡＩ透明法案》及《ＡＩ法案》，同樣要求ＡＩ服務供應商必須明確標記ＡＩ生成內容，以供內容使用者清楚識別；而且該標記或是浮水印等，必須具備永久性存在的特質，免得內容在經過數次傳播後，ＡＩ生成的標記就消失了，以至於後來的使用者已無法辨識該內容為ＡＩ生成。

中國大陸近日公布了《ＡＩ生成合成內容標識辦法》及《網路安全技術人工智能合成內容標識方法》，成為亞洲首例。相關辦法要求生成服務供應商與網路信息內容傳播服務供應商，必須清楚標記ＡＩ生成內容。

同時，上述法令還強調，任何組織及個人，都不得刪除、篡改、偽造以及隱匿ＡＩ生成內容的標示，也不得為實施上述不法行為者，提供技術、工具或服務，否則同樣觸法，這對標記ＡＩ生成內容，做了更為完整的規範。

晚近，台灣詐騙事件層出不窮且愈來愈嚴重。內政部警政署統計資料顯示，單單二月就受理一萬件詐騙案，受害金額高達六十點八億元，非常驚人。

據《亞洲詐騙調查報告》，對台灣的調查結果顯示，近三成的受訪者表示曾經收過ＡＩ生成的電話、即時通訊軟體訊息等；近四成的受訪者表示曾收過疑似透過ＡＩ生成的詐騙簡訊，顯示這個問題確實很嚴重。強制相關業者透過標示揭露ＡＩ生成內容、供民眾判別，是降低詐騙得逞的第一步，政府應參考他國作為，積極採取行動。