本文來自微信公眾號(hào)： 小聲比比 ，作者：梓泉，責(zé)編：美味蟹黃堡

大家好，今天刷到一個(gè)視頻，直接給我看愣住了。

有個(gè)買家花190塊買了一顆榴蓮，轉(zhuǎn)頭就給商家發(fā)了張發(fā)霉的圖片，申請不退貨只退款。

商家看完一口咬定這顆榴蓮根本不是自己家賣的，氣不過直接倒貼五千塊路費(fèi)，親自找上門去找買家對峙。

（來源：抖音@程大叔 下同）

等老板到現(xiàn)場，還真找出了不對勁的地方，可只剩下空包裝袋，早就看不到那顆發(fā)霉榴蓮的蹤影了。

對峙之后才真相大白：榴蓮早就被買家吃掉了，那張發(fā)霉的圖片，居然是買家自己用AI生成偽造的。

再仔細(xì)看賬單圖，連生成AI圖的水印都沒刪掉，實(shí)在是太離譜了。

（劃到圖末有亮點(diǎn)）

這事一出，不禁讓人感慨：現(xiàn)在有圖都不一定是真相了。

這件事傳開之后，網(wǎng)友們議論紛紛，不少人提到反詐APP能識(shí)別AI內(nèi)容

反詐APP真的能準(zhǔn)確識(shí)別AI生成內(nèi)容嗎？

我好奇打開了反詐APP想親測一下，進(jìn)去才發(fā)現(xiàn)，AI內(nèi)容鑒別功能直接放在主頁顯眼的位置。

上傳那張偽造的發(fā)霉榴蓮圖之后，不到五秒就出結(jié)果，直接判定是AI生成的假圖，看起來還挺像那么回事。

沒想到這APP還真有火眼金睛？

我轉(zhuǎn)念又想，萬一真圖被誤判了怎么辦？于是我又找了幾張真正發(fā)霉的水果圖片上傳測試。

系統(tǒng)幾秒就給出了結(jié)果：真實(shí)拍攝，不是AI生成，兩次判斷都準(zhǔn)確。這結(jié)果換誰看了不得吃驚。

不過我換了一張?zhí)幚磉^的AI圖上傳之后，出問題了：系統(tǒng)一直提示上傳失敗，難道剛增加一點(diǎn)難度就扛不住了？

我反復(fù)上傳了好幾次才成功檢測，最終結(jié)果依然準(zhǔn)確識(shí)別出這是AI生成的圖片。

（左劃查看檢測結(jié)果）

測到這里，能看出來這個(gè)功能對圖片的鑒別效果還是不錯(cuò)的

不過現(xiàn)在AI不止能做假圖，做假視頻也已經(jīng)做得非常逼真了，這個(gè)功能能鑒別AI視頻嗎？

帶著疑問，我做了新的測試

我找了一個(gè)把男生AI變成女生的視頻，上傳到APP里測試，不到五秒就出了結(jié)果，準(zhǔn)確識(shí)別出了是AI生成內(nèi)容。

（來源：抖音@網(wǎng)痞桃）

我接著測試了兩個(gè)小時(shí)發(fā)現(xiàn)，這個(gè)AI檢測功能大部分時(shí)候都挺好用，可只要遇到截圖、錄屏下來的AI素材，檢測效果就大打折扣。

比如我這張截圖下來的AI圖，它檢測了幾秒，居然給這個(gè)假貨蓋了合格章，判定成真實(shí)內(nèi)容了。

再比如之前有明星被AI換臉做虛假帶貨視頻，原視頻本來就是假的早就全網(wǎng)下架了，我拿錄屏下來的版本去檢測，APP也沒有識(shí)別出來這是AI生成內(nèi)容。

（到底是太逼真測不出來？還是必須上傳原圖原視頻才能檢測準(zhǔn)確？有沒有懂行的朋友來說說這是什么原理）

我查了一下才知道，反詐中心APP的這個(gè)AI檢測模型，3月份才開始測試，5月18號(hào)才正式上線，從上線到我測試的時(shí)候才剛剛四天，目前還在持續(xù)優(yōu)化當(dāng)中，有一點(diǎn)小瑕疵其實(shí)也可以理解。

但AI造假泛濫這件事，如果沒人好好管的話，普通人的日子遲早會(huì)受影響。

首先，AI造假會(huì)直接拉高整個(gè)社會(huì)的信任成本，就像碰瓷的人多了之后，沒人再敢隨便扶馬路上摔倒的老人一樣，現(xiàn)在AI假圖假視頻滿天飛，要是被別有用心的人用上，后果不堪設(shè)想。

比如人販子要是用AI圖片，都能靠假圖給自己洗白自證清白了。

人和人之間的信任一旦崩塌，再想重新建立就太難了。萬一哪天我真遇到危險(xiǎn)發(fā)圖求救，結(jié)果朋友以為是AI生成的惡作劇，那豈不是要出大事。

其次，普通人有真實(shí)訴求，拿出來憑證也會(huì)被質(zhì)疑，對方第一反應(yīng)不是解決問題，而是嘀咕一句：這不會(huì)是AI做的假圖吧？本來一分鐘就能解決的事，現(xiàn)在要來回申訴折騰好幾天，這個(gè)虧找誰去說?。?/p>

最后，AI假圖假視頻，本質(zhì)上就是騙子騙錢的新工具，直接威脅大家的財(cái)產(chǎn)安全

就像現(xiàn)在已經(jīng)有騙子用AI換臉騙老人，冒充老人的孫子孫女打視頻電話哭訴求助，老人一看人對得上，放松警惕之后，一輩子攢的養(yǎng)老錢就直接進(jìn)了騙子的口袋。

如果不對AI造假加以規(guī)范，以后普通人不知道要吃多少虧。騙子靠著AI假圖輕輕松松躺著騙錢，老實(shí)人只能靠自己的眼睛苦哈哈地分辨真假，說句話沒人信，做什么事都得先做一遍AI鑒真，保不齊以后發(fā)展下去，不止要驗(yàn)圖的真假，連我自己都得證明我是個(gè)真人才行。