Google 深偽偵測系統出手,戳破麥康諾住院假照片
本週稍早,一張照片在網路瘋傳,畫面看似肯塔基州參議員麥康諾(Mitch McConnell)躺在病床、身上插滿管子、狀況危急。這種涉及重要政治人物健康的影像,天生就有爆炸性傳播力——它會餵養各種政治猜測。最後這張照片被判定是假的,戳破它的正是 Google 的深偽偵測系統。
這類偵測技術的做法,通常是分析影像裡肉眼看不出的破綻:AI 生成圖在光影一致性、紋理、壓縮痕跡、乃至看不見的數位浮水印上,會留下和真實照片不同的指紋。Google 這幾年投入 SynthID 一類的水印與偵測工具,正是為了在假圖氾濫時,提供一個能快速判真偽的技術後盾。
把它跟同一天 Google 相簿推 Video Remix 放一起看,反差很諷刺:同一家公司,一邊讓幾億人能輕鬆換背景、重打光、生成更逼真的影像,一邊又要開發工具去抓誰在造假。生成與偵測的軍備競賽,就這樣在同一間公司內部同時上演,也預告這場貓抓老鼠沒有終點。
歸剛點評:這次是好結局——假照片被及時揪出。但別太樂觀:偵測永遠比生成慢半拍,而且一張假圖在被判定為假之前,早就在社群上跑了好幾圈、傷害已經造成。技術能幫忙查證,但真正的防線還是每個人看到聳動照片時,先按住轉發的手。
歸剛點評|生成與偵測的軍備競賽在同一家公司內部同時上演,也預示假影像查證永遠慢半拍。
來源:TechCrunch