搜尋引擎谷歌（Google）日前宣布，在Google Search等平台上，推出可標示圖片是否是由AI生成及編輯的功能，方便搜尋者清楚辨識數位內容的來源。

隨著AI技術的快速發展和普及，利用深度偽造技術製作的造假影片、聲音檔層出不窮，對個人隱私和財產安全構成威脅，對公共信任產生負面影響；科技界也發現，如果不能有效控制AI技術的濫用，己身也會成為受害者。近年來科技業者正不斷主動要求制定相關法規。

中國大陸的動作很快。為規範AI生成內容須翔實標示並促進AI產業健康發展，其「國家互聯網信息辦公室」日前宣布起草《人工智能生成合成內容標識辦法》，要求創作者使用AI創作文字、錄音、圖片、影片、虛擬場景等內容時，必須添加標識，且任何人都不得惡意刪除、篡改、偽造、隱匿生成合成內容標識，更不得通過不正當標識手段損害他人合法權益。若違反上述《辦法》規定或沒有對生成合成內容進行標識而造成嚴重後果，將遭受處罰。《人工智能生成合成內容標識辦法》預計在今年年底實施。

美國加州也正在研議《AB-3211加州數位內容溯源標識法案》，該法案要求包括社群媒體等線上平台，必須對生成式AI產生的合成內容進行標記，並要求自二○二六年七月一日開始，線上平台業者每年都必須發布透明度報告，主管單位將對違反該法案規定的行為進行具體的行政處罰，每次違規行為處以最高五十萬美元（約新台幣一千五百七十六萬元）的行政處罰。除OpenAI已表態支持外，特斯拉執行長馬斯克呼籲加州還應該進一步通過另一項規定開發人員對AI模型進行安全監管的法案。

軟體公司Adobe、半導體和軟體設計公司安謀（ARM）、微軟及英特爾等發起成立「內容出處暨真實性聯盟」（C2PA）。這是一個跨產業聯盟，目的是為數位內容的真實性和來源，創建一套標準化的技術框架，目前已有包括Google、TikTok、OpenAI在內的數千家企業加入。

各企業紛紛就C2PA的標準，對由AI生成的內容進行標示，使用者只要將圖片丟進「內容憑證」（Content Credentials）網站，就會出現這張圖片是誰在何時所創建，連修改歷程都會出現，若是AI生成的內容（即AIGC），就會自動辨識並標記。

C2PA呈現的是影音內容的元資料，使用者不能修改所記載的內容，如果未來社群網站、搜尋引擎都支援可顯示C2PA資訊，那麼人們在網路上觀看數位內容的過程，就很像是在超市購買商品，如附有具公信力單位所驗證的生產履歷，這個商品就值得信任。為了讓更多影音使用者確認畫面來源，C2PA正在爭取更多平台和相機業者加入，目前YouTube和萊卡（Leica）和索尼（Sony）等品牌的相機支援C2PA標準，如果是由Leica和Sony拍攝的影音畫面和圖片，就會顯示創作資訊，使用者即可確定不是AI生成。

儘管C2PA技術能為數位內容提供真實性保證，而其推廣和應用仍面臨考驗，跨平台運用也存在挑戰，也有人認為即使制定了法令，也未必能夠減少假帳號或Deepfake事件，畢竟這是面對AI世代真假難辨困境所踏出的重要一步，相信未來法令環境會更加周延。台灣網路造假和詐騙的事件愈來愈猖狂，為了幫助使用者確認網路上的圖片、視頻和音訊等數位內容的來源、消除虛假資訊和內容篡改等問題，台灣更應積極思考制定相關法令網路資訊進行規範。