Can We Verify AI-Generated Images and Videos?
前陣子在研究 AI 生成影片時,會發現一件越來越有趣、也有點讓人不安的事。
以前看到一張照片,多少還能從光線、人物表情、背景細節判斷是不是合成的。現在 AI 不只會生成漂亮圖片,連人物動作、鏡頭運動、場景細節都越來越自然。
有些影片看起來就像真的有人拿著相機拍攝。那……
當一段影片看起來完全合理,我們要怎麼知道它是真的拍攝紀錄,還是 AI 生成的內容?
靠肉眼看?請 AI 幫忙判斷?還是把影片丟進某個偵測網站?
其實,現在已經有一些技術開始處理這件事。Google 的 SynthID、C2PA Content Credentials,以及各種 AI 內容偵測工具,都希望讓數位內容留下可以追查的線索。
但這些技術有一個很重要的差別……
能證明內容從哪裡來,不代表能證明內容描述的事情真的發生過。
這可能才是 AI生成內容越來越普及之後,真正需要理解的問題。
AI 內容辨識,其實有兩種不同方向
談到 AI 內容辨識,通常會把所有技術都放在同一個籃子裡,仔細拆開來看,至少有兩條路線。
第一種是分析內容本身,尋找 AI 生成留下的特徵…像是圖片的紋理、像素分布、影像細節,或影片不同畫格之間的變化,模型透過大量真實與生成內容學習差異,再推測某個檔案是否可能由 AI 製作。這種方式比較接近大家熟悉的 AI Detector。
第二種則是從內容製作時就留下可驗證的資訊…像是生成工具在圖片或影片裡嵌入數位浮水印,或由拍攝設備、編輯軟體在檔案中加入經過數位簽章的來源紀錄。
這時候不必完全依賴模型猜測畫面像不像 AI,而是直接檢查內容是否帶有可信的來源資訊,兩者最大的差異在於……
一種是在成品裡找線索,另一種是從製作過程留下紀錄。
而 SynthID 和 C2PA,正好代表了這兩種思路中很重要的技術方向。
SynthID……把看不見的浮水印藏進內容
Google DeepMind 推出的 SynthID,是一套用來辨識 AI 生成內容的數位浮水印技術。
它的概念很有意思。
一般浮水印會直接放上文字、Logo 或半透明圖案,讓人知道圖片來自哪個平台。但這種方式很容易被裁切、遮住,甚至重新編輯就能移除。
SynthID 採用的是不可見浮水印,它會將特定訊號嵌入 AI 生成的內容中,讓人眼看不出差異,但專門的辨識系統可以嘗試找出這些訊號。
目前 SynthID 涵蓋圖片、影片與音訊,也已經應用在 Google 的生成式 AI 產品中。
這裡要注意,SynthID 並不是在圖片角落放一個隱藏的標籤,也不是單純把一段文字藏在檔案資訊裡。它的設計是讓浮水印訊號融入生成內容本身。
所以即使圖片經過縮放、重新上色或壓縮,浮水印通常仍有機會被辨識。不過,經過大量修改後,也可能無法再成功偵測。
更值得注意的是,SynthID 在 2026 年 10 月有了新的進展。
Google 擴大 SynthID Detector 的使用範圍,讓一般使用者也能檢查圖片、影片與音訊中的相關浮水印訊號。Google 公布的合作範圍包含 OpenAI、NVIDIA、Kakao 與 Apple 等夥伴。
這代表 AI 內容來源驗證,開始不只是單一生成平台自己檢查自己的內容,而是逐漸往跨平台合作發展。
不過,這不代表所有 AI 生成內容都能被 SynthID 找出來。它仍然需要內容本身帶有相容的浮水印訊號。
C2PA……讓數位內容有自己的履歷
如果 SynthID 比較像是在內容裡留下看不見的記號,那 C2PA 的概念就不太一樣。
C2PA 全名是 Coalition for Content Provenance and Authenticity,是一套由產業共同推動的數位內容來源與真實性標準。
它所使用的 Content Credentials,可以理解成數位內容的履歷。
這份履歷可能記錄:
- 內容由什麼設備或軟體建立
- 使用了哪些工具或處理流程
- 是否經過 AI 生成或編輯
- 後續經歷哪些修改
- 不同素材如何組合成最後的作品
這些資訊會透過數位簽章與內容雜湊等方式建立驗證關係。
如果有人任意修改已簽署的內容,原本的驗證關係就可能失效,讓檢查工具發現檔案與紀錄不再一致。
這有點像產品開發時的版本紀錄。
一張圖片可能先由相機拍攝,再經過修圖軟體調整,最後加入其他素材。如果每個階段都有留下相容的 Content Credentials,就有機會追查這張圖片經歷過哪些處理。
而且 C2PA 不只適用於 AI 生成內容。
真實相機拍攝的照片,也可以透過支援的設備建立來源紀錄。它關心的是內容從哪裡來、經過什麼處理,而不只是判斷有沒有使用 AI。
這也是它和一般 AI 偵測工具很大的差異。
SynthID 和 C2PA,到底差在哪裡?
兩者都能協助辨識數位內容來源,但工作方式不同。
| 比較項目 | SynthID | C2PA Content Credentials |
|---|---|---|
| 核心概念 | 不可見數位浮水印 | 可驗證的來源與修改紀錄 |
| 資訊位置 | 嵌入生成內容 | 通常以簽章與中繼資料保存 |
| 主要用途 | 檢查是否帶有相容的 AI 生成訊號 | 追查內容來源與處理歷程 |
| 適用內容 | 圖片、影片、音訊 | 圖片、影片、音訊等數位媒體 |
| 主要限制 | 必須有相容的浮水印訊號 | 紀錄可能遺失,且需要檢查簽章與來源 |
兩者並不是互相取代的技術。

一個偏向在內容中留下可辨識訊號,另一個偏向建立可以驗證的來源紀錄。未來也可能同時使用,讓同一份內容具有多種來源證據。
現在有哪些工具可以實際檢查?
技術聽起來很多,但一般使用者真正想知道的,應該是拿到一張圖片或一段影片,到底能不能查?
目前可以留意幾個工具。
這是 Google 推出的內容驗證入口,可以檢查圖片、影片與音訊是否包含相容的 SynthID 浮水印訊號。
2026 年 10 月,Google 宣布擴大開放,並納入合作夥伴的相關內容驗證。官方入口:https://synthid.com

2. Gemini 內容驗證
在 Gemini 中上傳圖片、影片或音訊,可以詢問它是否由 Google AI 生成或編輯。
這裡有一個容易搞混的地方……
Gemini App 目前透過 SynthID 檢查時,主要辨識的是 Google AI 工具製作的內容;不能因為其他公司也開始採用 SynthID,就認為 Gemini 一定能辨識所有合作夥伴的內容。
另外,Gemini 也能檢查相容的 Content Credentials,查看來源與編輯歷程。
官方說明:https://support.google.com/gemini/answer/16722517
3. OpenAI Verify
OpenAI 也提供內容來源訊號檢查工具,可以上傳圖片、音訊與 PDF,檢查是否存在 OpenAI 相關的 C2PA 資訊或 SynthID 浮水印。
不過目前這個工具支援的檔案類型不包含影片,因此不能把它當成通用影片驗證器。
官方入口:https://openai.com/research/verify

這幾個工具的定位並不完全一樣。實際使用時,還是要先確認它支援哪些格式、哪些來源訊號,以及檔案是否保留了原始資訊。
為什麼驗證結果不能直接等於真假?
這裡才是整件事最需要小心的地方,假設拿到一張圖片,檢查工具沒有找到 SynthID。
這代表什麼?只能說目前沒有找到它能辨識的相關浮水印訊號。
它可能是真實相機拍攝,也可能是其他 AI 工具生成,或是原本帶有浮水印,但經過修改後已經無法辨識。
因此,沒有偵測到浮水印,不等於這張圖片就是真的,反過來說,找到 AI生成標記,也不代表圖片裡的所有內容都是假的。
一張真實照片可能只使用 AI 移除背景、修復畫面或補上部分細節。這時候,工具可能確認內容曾經經過 AI 處理,但不代表整張照片都是 AI生成。
C2PA 也有類似的界線,它可以協助確認來源紀錄與檔案是否符合簽章驗證,但不能替圖片中的事件背書。
假設有人使用 AI 生成一張看起來非常真實的災害現場照片,而且來源紀錄完整、簽章也有效,這只能證明檔案的製作與處理紀錄符合驗證結果,不能證明照片中的災害真的發生過。
來源可信,不等於內容描述的事情就是真的。
這兩件事必須分開判斷。
真正困難的,是內容離開原始平台之後
技術可以留下紀錄,但網路上的內容不一定會乖乖保留這些紀錄。

一張圖片被截圖、重新存檔、裁切,或上傳到某些社群平台後,原本的中繼資料可能就會遺失。
影片也一樣。
原始影片可能有完整的來源紀錄,但經過剪輯、轉檔、重新編碼,再被其他人下載轉傳,原本的驗證資訊就可能不完整。
C2PA 有持續保存與重新找回來源資訊的設計方向,例如透過浮水印或內容指紋等方式,協助在中繼資料被分離後重新連結來源紀錄。
但這不代表所有平台、所有格式與所有轉傳流程都已經完整支援,這也讓我想到一個產品設計問題。
假設未來新聞平台、社群網站或影音平台都開始顯示 AI 生成標記,使用者看到的可能不只是「AI 生成」四個字,而是更完整的資訊。
- 這段影片由什麼設備拍攝?
- 中間使用了哪些生成工具?
- 哪些畫面經過修改?
- 來源紀錄是否有效?
如果這些資訊能夠在不同平台之間持續保存,判斷內容的方式就可能有很大的改變。
但如果只有少數平台支援,內容一離開原本的環境就失去紀錄,驗證系統的效果還是會受到限制。
AI 越會生成,內容來源就越重要
以前我們看到一張照片,通常會先問它拍得好不好、畫面是不是真的。現在如果想知道會想….
- 這張圖片從哪裡來?
- 有沒有經過 AI 修改?
- 影片是否有完整的來源紀錄?
- 檢查工具找到的證據,究竟能證明到什麼程度?
SynthID、C2PA 和各種 AI 內容辨識工具,正在讓這些問題有更多可以查證的線索。不認為未來會出現一個按下去就能判斷所有圖片與影片真假的萬能按鈕。
因為生成技術會進步,編輯方式會改變,內容也會在不同平台之間流動。真正重要的,可能不是讓每個人都變成 AI 偵測專家,而是讓數位內容從產生的那一刻開始,就有機會留下可追溯、可驗證的紀錄。
當 AI 已經能生成看起來像真的世界,我們需要的也許不只是更厲害的生成工具。
還需要一套能讓人知道……眼前這個世界,究竟是怎麼被做出來的。
- Google DeepMind — SynthID:浮水印技術原理與支援媒體類型。
- Google — SynthID Detector 擴大開放公告:2026 年 10 月更新與合作夥伴資訊。
- C2PA — Frequently Asked Questions:Content Credentials、數位簽章與來源紀錄。
- Gemini — AI 圖片、影片與音訊驗證說明:實際驗證方式、支援限制與結果解讀。
- OpenAI — Verify OpenAI-generated content:OpenAI 來源訊號檢查工具與支援格式。
- NeurIPS 2025 — Is Artificial Intelligence Generated Image Detection a Solved Problem?:AI生成圖片偵測在真實環境中的泛化限制。
更多文章…
AI 生成動漫人物也能辨識動作?YOLO11-Pose × LLM 實驗
大模型不是單一解決方案…為什麼企業都在轉做「混合人工智慧」?
AI 多模型融合研究:如何設計可重現的融合實驗、評估指標與結果校準
QQCDR AI Engine 是什麼?多模型融合 AI 決策系統解析
智慧製造研究 #3|數位雙生最大的挑戰不是 3D,是需要想如何讓設備的運作行為建模

發佈留言