原傳媒 AI
萬里溪河道;全台原鄉監測
返回文章列表

自媒體/公民素養/數位媒體識讀

只靠眼睛抓破綻,已經追不上人工智慧生成影片:真偽辨識為何需要「檢測+來源履歷」雙軌

SAFE、NIST 與 C2PA 提醒:檢測分數、可驗證履歷與事件查證回答不同問題,不能以一個標章或肉眼破綻決定影片真假。

邱俐瑜 Liyu Chiu

作者簡介:公民科 x AI 資訊科技媒體素養教案獎得主、AI 教育學院成員、經營 FB 粉絲專頁「快樂鯉魚秋老虎:運算思維與程式設計」、關注 AI 媒體素養、數位公民與科技教育

生成影音來源履歷公民素養
查覈者從側後方檢視失焦影片畫面,右側留有深色空間,非真實查覈事件。

AI 生成概念影像,非研究或事件現場照片。

眼睛能發現疑點,不能完成裁判

羣組傳來一段疑似重大事件的影片,畫面流暢、人物表情自然,連雨水和光影都像真的。過去流行的辨識方法是數手指、找牙齒或觀察嘴形;這些線索仍可作為疑點,卻不能成為所有人工智慧生成影片都適用的規則。真實拍攝也會因壓縮、失焦或剪輯而出現異常,生成內容則可能沒有明顯破綻。真正需要回答的是影片從哪裡來、經過什麼修改,以及它所聲稱的事件能否被其他證據支持。把這三個問題混成一句「看起來很真」,便容易把影像品質誤當新聞可信度。

盲測的價值是遇見沒有學過的生成器

SAFE Synthetic Video Challenge 的設計把辨識工具放到未事先公開的資料上測試,並讓私有測試集納入不同來源與生成器。後製任務另外加入壓縮、縮放、裁切等常見操作;挑戰本身不包含音訊,也不鼓勵藉檔案格式或附帶資料猜答案。這些條件提醒我們,乾淨樣本的成績不能直接代表社羣平臺影片。它是二〇二五年的挑戰,不是今天才啟動的新比賽;今天值得延續的,是測試條件和真實使用條件是否一致這個問題,而非拿某個排行榜替任何工具背書。

實驗室準確率與工作現場之間還有距離

NIST 的 Guardians of Forensic Evidence 計畫同樣把泛化、後製韌性與實務可用性列為問題。研究者要面對舊模型訓練、新模型測試、低位元率及再壓縮的證據。這不是宣告現有檢測全部失效,而是要求工具對自己的適用範圍交代清楚。查覈者至少要知道版本、測試資料、判定門檻和已知錯誤情境;若服務只顯示一個百分比而沒有定義,就不能把它讀成「影片造假的機率」。模型輸出可協助排序需要調查的線索,判斷責任仍要回到可檢查的證據。

百分比之前,要先理解錯判的代價

假設一個工具把真實影片誤判成生成內容,受影響的可能是公民紀錄、被害者證詞或災害現場。反方向的錯誤則可能讓假影片藉助「檢測通過」增加說服力。兩者都需要被量測,不能只挑對自己有利的一種準確率。資料裡真、假影片的比例也會改變數字的解讀;在不同平臺、語言或題材中,使用同一門檻未必適當。這些是一般統計與查覈工作的提醒,不是 SAFE 已經替臺灣所有情境測出的效果。公開報導應保留「未能確認」的位置,不把工具的肯定語氣放大成司法式指控。

來源憑證回答的是履歷,不是事件真假

C2PA 以數位簽章及與檔案的綁定,讓來源和修改聲明可以接受驗證。驗證成功表示相關聲明、簽章與內容綁定符合檢查條件,不代表簽署者沒有錯誤,也不代表鏡頭外不存在重要脈絡。有人可能真實拍下擺拍場景,再用完整履歷發布;另一位公民可能用不支援憑證的舊手機記錄真實事件。前者不能因有章就免查,後者不能因沒有章就被排除。C2PA 規格明示不對履歷作善惡判斷;讀者仍須瞭解簽署者身分、信任基礎與聲明的具體內容。

三層查證可以從一個句子開始

收到可疑片段,先把敘事改寫成可核對的句子:誰在什麼時間、哪個地方做了什麼。第一層保存目前檔案,檢查有沒有被剪掉的前後段及技術疑點;第二層查看可取得的來源履歷、原始發布者和版本;第三層搜尋同一事件的其他拍攝、正式公告與可聯絡的當事人。三層不是保證正確的公式,也沒有規定一定要購買檢測服務。若資料不足,最適合的分享方式可能是清楚說明未知,或先不轉傳。遇到權責機關已發布的公共安全指示,應從官方原文確認行動,不必等待陌生影片的鑑定分數。

創作者最重要的資產是可追溯的版本

自媒體工作者可以保存原始拍攝、剪輯專案、生成素材與輸出版本,記錄使用日期、處理方式及授權範圍。若用了人工智慧生成背景或重建畫面,就在讀者能看見的位置說明,不要讓片尾模糊的免責文字承擔所有資訊。敏感受訪者的姓名、定位與裝置資料則需要另外評估,不能為追求「履歷完整」而公開。完整證據可以分成公開摘要與受控保存的原檔,查覈時透過適當程序檢視。這是實務建議,並非 C2PA 規格要求每位創作者交出所有私人素材;透明與保護來源應一起設計。

平臺不能把一個圖示變成真相保證

來源憑證若只剩漂亮圖示,容易讓人誤認為平臺已覈准新聞內容。較清楚的介面應展開顯示誰簽署、哪些步驟已記錄、哪些資訊缺少,以及驗證失敗與沒有憑證的差別。檢測標註則要有說明、異議與更正入口,尤其不能讓自動誤判永久附著在公民影像上。平臺對外發布的統計應包括不同處理條件與錯誤類型,而非只報攔下多少影片。這些治理方向需要公開測試及使用者回饋;技術標準提供履歷結構,不會自動完成權利救濟或編輯責任。

教室評量要獎勵說得出不知道

媒體素養教學可以安排同一段影像的原始、裁切及低畫質版本,請學生分別寫出「看見的內容」「發布者聲稱的事件」「目前還缺的證據」。接著加入來源履歷摘要與官方事件資料,觀察他們會不會修改判斷。評分重點是理由能否跟證據對應,而不是猜中教師預先設定的真假答案。材料最好使用已取得授權、非敏感的示範,不把真人受辱或被害影像當作娛樂題。這種課程仍需在不同年齡、語言及裝置上驗證可理解性,不能把科技名詞背得熟直接當作公民能力。

在地經驗應回到工具測試的設計

臺灣公民媒體面對的常是羣組轉傳、字幕遮蓋、螢幕翻拍、方言語音與多次剪輯。這些情境不是本篇三個來源已逐一驗證的臺灣測試資料,卻值得由在地創作者、教師與查覈者共同提出。研究團隊若要做適用性評估,應公開素材取得方式、同意程序、標準答案的形成、版本管理與結果限制,同時避免蒐集私人羣組的完整對話。從實驗室到社會,是把風險訊號解釋成公民可用的方法;從社會回到實驗室,是讓真實流通條件修正評估問題。知識往返的重點在這種往返,而不是宣稱有一個永遠正確的辨識器。

沒有憑證的人也需要被公平對待

來源履歷的普及可能需要新裝置、相容軟體與發布平臺。若公共機構把憑證當作接受陳情影像的唯一門票,就可能讓設備較舊、網路較慢或不熟悉新工具的人被排除。可考慮保留人工受理與補件方式,讓提供者說明拍攝環境、時間及取得經過,再依案件需求查覈。相同地,若敏感消息必須匿名發布,沒有公開簽署身分不等於沒有查覈責任;機構可在保護來源的前提下說明已核對哪些資訊。技術採用率和證據可信度是不同尺度,平臺需要避免把數位資源差異變成發言資格差異。

把問題寫成能重做的查覈紀錄

一份可重做的紀錄,應將影片連結與檔案版本分開保存,註明下載時間、剪輯疑點、工具版本及外部核實的結果。若只留下「某軟體說假的」,下一位查覈者既無法知道輸入內容,也難以比較更新後的結果。對外則可用簡短表格說明哪些主張已確認、哪些仍未知,並讓更正跟原來的報導一起被找到。需要保密的素材不必公開,但責任、方法與限制仍可交代。這是一種編輯作業建議,其價值需要在工作現場持續檢驗;不是對任何現成服務的保證,也不能取代涉及個人權利案件的專業程序。

先保護求證關係,再處理公開指控

向轉傳者求證時,可以先問是否有原始發布連結,再說明目前不能確認的部分。不要只回一句「這是假的」讓對方被迫捍衛面子,也不要因熟人善意就跳過證據。若影片涉及個人身分、犯罪或名譽,公開點名之前需要更強的核實與回應機會;一般使用者不必把自己變成鑑識專家,也不應轉發未證實的指控求「大家幫忙認人」。保存資訊時注意當事人的安全,必要時把疑點交給具有查覈程序的專業單位。這些溝通選擇是公共倫理上的建議,不能被當作三個技術來源已證實的心理效果。

可靠不是一次標註,而是可修正的紀錄

一段影片的判斷可能隨新原檔、證人或版本資訊而改變。媒體應保留查覈時間、當時可取得的證據與更正位置,讓讀者知道結論如何更新。工具升級後也不能自動把舊案改判,因為模型版本、資料條件與調查問題可能都變了。能追溯的來源、能表達限制的檢測結果,以及能回應新證據的編輯程序,共同構成可信度。生成影音愈自然,公共討論就愈需要把「我看見」與「我知道」分開;願意保留未知並補上證據,不是放棄判斷,而是讓判斷承擔責任。

資料來源與延伸閱讀

角色驅動追問

原傳媒AI|依你的角色繼續追問

先選擇角色,再閱讀該角色可能提出的完整問題;點選後,原傳媒AI 會以逐字顯示方式呈現完整回覆。

先選擇角色

閱聽人

從閱聽人的責任與情境檢視生成影音、來源履歷與證據限制。

再選擇問題

先閱讀上方完整問題,再選擇一題;原傳媒AI 將從第一個字開始逐字呈現回答。

AI 使用與內容安全揭露

本文與角色問答由 AI 協助整理公開研究與機構資料;研究結果、限制與實務建議分開敘述。封面為 AI 生成概念影像。

Newsletter

喜歡這篇文章?

訂閱原傳媒AI電子報,每日接收AI、傳統知識與雙向知識更新。

前往訂閱
只靠眼睛抓破綻,已經追不上人工智慧生成影片:真偽辨識為何需要「檢測+來源履歷」雙軌|原傳媒AI