FakeXplained

FakeXplained是一個提供局部區域文本解釋的數據集。該數據集由螞蟻集團開發，並在CVPR 2026 NTIRE圖像檢測挑戰賽中構建。它屬於“先定位可疑區域，再進行細節審查”的兩階段檢測範式。

針對深度偽造與AIGC技術可能帶來的風險，相關研究提出了一種基於DINOv3視覺基礎模型的檢測框架。該框架採用兩階段檢測範式，面對可疑圖像時，可對其是否由AI生成進行判斷，並在圖像上定位可能存在偽造痕跡或違背物理常識的區域，同時生成相應的解釋。CVPR是計算機視覺領域的世界三大頂級會議之一。

基本介紹

• 外文名：FakeXplained

開發背景

當前，深度偽造與AIGC濫用風險加劇，現有檢測模型在真實場景下的準確率面臨挑戰；CVPR 2026 NTIRE圖像檢測挑戰賽要求模型在“未知生成架構”與“複雜退化干擾”的條件下保持較高的準確率與魯棒性。

有參賽者如螞蟻集團提出了基於DINOv3視覺基礎模型的檢測框架，旨在提升模型在真實場景下的檢測能力。

技術原理

FakeXplained的核心是“先定位可疑區域，再進行細節審查”（Locate-Then-Examine）的兩階段檢測範式。為支持該範式，團隊構建了提供局部區域文本解釋的數據集FakeXplained。該方法使檢測能力從單純判斷真偽躍遷至能夠定點陣圖像中存在偽造瑕疵或違背物理常識的區域，並同步生成詳盡的解釋，從而突破了傳統“黑盒”檢測的局限，讓模型決策“有據可查”。

技術特點

FakeXplained系統基於DINOv3視覺基礎模型構建檢測框架。該系統為提升在真實場景下的檢測能力，模擬圖像從單一噪點到多重失真的全鏈路退化效果，深度還原真實場景的圖像失真特徵。系統採用“先定位可疑區域，再進行細節審查”（Locate-Then-Examine）的兩階段檢測範式，並構建了提供局部區域文本解釋的數據集FakeXplained，從而突破了傳統“黑盒”檢測的局限。在CVPR 2026 NTIRE挑戰賽中，螞蟻集團在“複雜真實場景魯棒性樣本測試”賽道奪冠。

套用場景

相關技術主要套用於支付安全、內容安全審核、金融身份認證等場景的風險識別，作為防範深度偽造與AIGC攻擊的技術手段之一。在金融領域，相關技術被用於金融交易身份鑑別、開戶材料審核，以及跨境支付與金融服務中的電子化客戶身份識別、憑證與材料的防偽等環節。

技術細節與開源

螞蟻AI安全實驗室參賽團隊搭建了一個包含數百萬樣本的訓練語料庫，覆蓋WildFake、Z-Image、Seedream、Nano-banana-pro等開源數據集和模型，其底層採用雙流並行集成架構，分別捕捉圖像的局部細節與整體特徵。團隊模擬圖像從單一噪點到多重失真的全鏈路退化效果，以還原社交平台傳播、二次翻拍等場景的圖像失真。

團隊提出了“先定位可疑區域，再進行細節審查”(Locate-Then-Examine)的兩階段檢測範式，並構建了提供局部區域文本解釋的數據集FakeXplained。在面對可疑圖像時，該方法能判斷其是否由AI生成，並在圖像上定位出存在偽造瑕疵或違背物理常識的區域，同時生成解釋。

為方便技術從業者共同應對Deepfake挑戰，團隊還通過GitHub開源了AIGC圖像視頻檢測資源倉庫。