深偽與選舉:內容憑證、SynthID 浮水印如何反制,又為何非萬靈丹

深偽如何威脅選舉完整性?

美國政府課責署(GAO)將深偽定義為看似真實、實則由 AI 變造的影音CITE:E1。GAO 於2020年2月20日發布的報告寫道:「A deepfake is a video, photo, or audio recording that seems real but has been manipulated with AI.」CITE:E1。由多家科技公司於2024年2月16日在慕尼黑安全會議簽署的 AI Elections Accord 官方文本進一步指出,蓄意且未揭露地生成、散布「欺騙性 AI 選舉內容」,會以危及選舉程序完整性的方式欺騙公眾CITE:E2。文本原文寫道:「The intentional and undisclosed generation and distribution of Deceptive AI Election content can deceive the public in ways that jeopardize the integrity of electoral processes.」CITE:E2。

內容憑證(C2PA Manifest)如何進行來源驗證與內容溯源?

C2PA 定義內容憑證(即 C2PA Manifest)為內容來源驗證與溯源的標準CITE:E3。C2PA 於2024年發布的官方說明指出,內容憑證內含一或多項「主張(assertions)」,即關於該內容的陳述,包括來源(何時何地建立)、修改(用什麼工具做了什麼)以及是否使用 AI(如何生成)CITE:E3。C2PA 官方文件原文寫道:「Content Credentials, also known as a C2PA Manifest, contain one or more assertions, which are statements about the asset, such as its origin (i.e., when and where it was created), modifications (i.e., what happened using what tools) and use of AI (i.e., how it was authored).」CITE:E3。C2PA 強調,內容憑證屬於來源驗證的內容溯源標準,而非偵測器CITE:E3。

科技業界的自願性反制框架——AI Elections Accord——具有什麼法律性質與約束力?

AI Elections Accord 官方文本將自身定性為自願框架,而非法律規範CITE:E5。這份由科技公司於2024年2月16日在慕尼黑安全會議簽署、正式名稱為「A Tech Accord to Combat Deceptive Use of AI in 2024 Elections」的文本寫道:「We sign this accord as a voluntary framework of principles and actions to advance seven principal goals」CITE:E5,即簽署者以自願框架的形式承諾推進七大目標CITE:E5。

浮水印技術如何標示與追蹤 AI 生成內容?以 SynthID 為例

Google DeepMind 的 SynthID 將數位浮水印直接嵌入 AI 生成內容CITE:E4。Google DeepMind 自2023年起說明,SynthID 可將浮水印嵌入 AI 生成的影像、音訊、文字或影片,該浮水印已部署於 Google 的生成式 AI 消費性產品CITE:E4。Google DeepMind 官方文件寫道:「SynthID embeds digital watermarks directly into AI-generated images, audio, text or video. The watermarks are embedded across Google's generative AI consumer products, and are imperceptible to humans – but can be detected by SynthID's technology.」CITE:E4。換言之,這類浮水印對人類不可察覺,但可由 SynthID 的技術偵測CITE:E4。

國際標準機構(NIST)如何規範合成內容的驗證、標示與偵測?

美國國家標準暨技術研究院(NIST)盤點合成內容驗證、標示與偵測的既有標準與工具CITE:E6。NIST 於2024年11月發布的報告《AI 100-4: Reducing Risks Posed by Synthetic Content》指出,報告檢視既有及未來可科學實證的標準、工具、方法與實務,涵蓋內容驗證與來源追蹤、以浮水印等方式標示合成內容,以及偵測合成內容CITE:E6。NIST 原文寫道:「This report examines the existing standards, tools, methods, and practices, as well as the potential development of further science-backed standards and techniques, for: authenticating content and tracking its provenance; labeling synthetic content, such as using watermarking; detecting synthetic content;」CITE:E6。

浮水印與內容憑證技術存在什麼根本限制?

NIST 指出,隱式與顯式浮水印往往可被移除,嵌入的中繼資料也可能被剝除CITE:E7。NIST 在同一份 AI 100-4 報告中原文寫道:「covert and overt watermarks can often be removed from digital content, and embedded metadata could be stripped.」CITE:E7。這代表浮水印與內容憑證等技術對策,並非能一勞永逸解決深偽識別問題的萬靈丹CITE:E7。

反制深偽的關鍵文件與技術時間軸(數字對照)

科技業界以 Content Credentials 與 SynthID 等技術回應深偽對選舉的威脅CITE:E3CITE:E4,NIST 也著手盤點相關驗證、標示與偵測標準CITE:E6,但 AI Elections Accord 本身在官方文本中被定性為自願框架而非法律規範CITE:E5,同一份 NIST 報告也坦承浮水印與中繼資料可被移除或剝除CITE:E7。這意味著目前檯面上的反制工具——無論是業界自願承諾或技術性浮水印——各自都存在明確的邊界,反制深偽仍是仰賴多重機制並行、而非單一方案就能完成的工作。