IT之家 7 月 28 日消息，微軟人工智能公益項(xiàng)目（Microsoft AI for Good）發(fā)布的一篇論文概述了一項(xiàng)實(shí)驗(yàn)，該實(shí)驗(yàn)有超過 1.25 萬名全球參與者，進(jìn)行了 28.7 萬次圖像評估，結(jié)果顯示人類辨別 AI 生成圖像與真實(shí)圖像的整體成功率僅為 62%，這表明人類在識破這些虛假圖像方面的能力僅略高于隨機(jī)猜測，面臨著較大的挑戰(zhàn)。
研究發(fā)現(xiàn)，在各類圖像中，參與者最容易識別出虛假的人像圖像，但面對自然景觀和城市街景等非人物圖像，辨別成功率大幅下降至 59% - 61%。這凸顯了人類在區(qū)分 AI 圖像時(shí)的困難，尤其是那些沒有明顯人工痕跡或風(fēng)格線索的圖像。
據(jù)IT之家了解，實(shí)驗(yàn)采用“真實(shí)或虛假”問答游戲的形式，參與者需判斷所見圖像是否由 AI 生成。為確保測試貼近現(xiàn)實(shí)場景，研究團(tuán)隊(duì)刻意避免挑選極具迷惑性的“極端案例”，而是選取了人們在日常網(wǎng)絡(luò)瀏覽中可能真實(shí)遇到的圖像樣本。研究同時(shí)強(qiáng)調(diào)，隨著 AI 技術(shù)持續(xù)進(jìn)步，未來模型生成的圖像將更加逼真，辨別難度將進(jìn)一步加大。
基于研究結(jié)果，微軟呼吁加強(qiáng)技術(shù)透明度，推動廣泛采用圖像水印和可靠的 AI 內(nèi)容檢測工具，以降低 AI 生成內(nèi)容引發(fā)虛假信息傳播的風(fēng)險(xiǎn)。此前，微軟已發(fā)起公眾教育活動，旨在提升社會對 AI 偽造信息威脅的認(rèn)知。
研究團(tuán)隊(duì)還測試了微軟自研的 AI 檢測工具，該系統(tǒng)在各類圖像上的識別準(zhǔn)確率均超過 95%，遠(yuǎn)高于人類表現(xiàn)。盡管如此，研究人員仍強(qiáng)調(diào)，即便是先進(jìn)的機(jī)器檢測手段也并非萬無一失。
值得注意的是，即便圖像帶有可見水印，惡意使用者仍可通過簡單的裁剪或圖像處理工具輕易將其去除或掩蓋，從而繞過視覺警示機(jī)制。這使得僅依賴水印的防護(hù)策略顯得尤為不足。
為何人類在識別人臉類 AI 圖像時(shí)更具優(yōu)勢？研究人員認(rèn)為，這可能源于人類天生對面部特征的高度敏感性，更容易察覺 AI 生成人像中的細(xì)微異常，如不對稱的眼睛、不自然的皮膚紋理或光線錯誤。有趣的是，研究還發(fā)現(xiàn)，早期的生成對抗網(wǎng)絡(luò)（GANs）和圖像修復(fù)（inpainting）技術(shù)反而更具欺騙性。這些技術(shù)生成的圖像往往呈現(xiàn)“業(yè)余攝影”風(fēng)格，而非 Midjourney 或 DALL-E 3 等主流模型常見的精致、高飽和度的“影棚風(fēng)”，因而更易被誤認(rèn)為真實(shí)拍攝。
其中，圖像修復(fù)技術(shù)尤其值得警惕 —— 其允許將真實(shí)照片中的局部區(qū)域替換為 AI 生成內(nèi)容。微軟指出，這種“局部偽造”手段極具隱蔽性，極難被普通用戶識別，為虛假信息和深度偽造（deepfake）攻擊提供了新的溫床，可能被用于制造誤導(dǎo)性新聞或政治宣傳。
這項(xiàng)研究再次敲響警鐘：面對日益逼真的 AI 生成內(nèi)容，人類的直覺判斷已不足以應(yīng)對。科技企業(yè)必須加快開發(fā)更強(qiáng)大的檢測技術(shù)和內(nèi)容溯源機(jī)制，構(gòu)建多層次的防御體系，以遏制 AI 偽造內(nèi)容在社會層面的惡意傳播。