AI謠言是指通過人工智慧技術生成的虛假信息，形式涵蓋文字、圖片、音視頻等，具有仿真度高、傳播速度快、迷惑性強等特點。其危害包括誤導公眾認知、製造社會恐慌、擾亂網路秩序，甚至損害個人或機構聲譽。為應對AI謠言，多國通過立法明確生成內容標識要求，並構建技術檢測與人工審核協同的治理體系。公眾可通過核查信息源頭、邏輯矛盾及使用官方工具等方式識別謠言。
基本介紹
- 常見形式：偽造熱點事件、名人言論、偽科普文章
- 治理法規：《人工智慧生成合成內容標識辦法》
- 典型案例：2025年杭州謝某某AI造謠被行政處罰
- 識別方法：查源頭、看細節、驗邏輯、用工具
- 生成成本：單日最高可生成4000至7000篇虛假文章
定義與技術特徵,社會危害與治理挑戰,治理體系構建,公眾應對指引,
定義與技術特徵
AI謠言利用自然語言處理、深度學習等技術，通過輸入關鍵字批量生成虛假內容，可快速適配不同平台傳播需求。其技術特徵包括：
- 高仿真性：通過AI最佳化文本邏輯與細節，模擬人類創作風格；
- 規模生產：單日最高產出達4000至7000篇虛假文章，成本僅為傳統造謠的1%；
- 多模態融合：支持圖文混編、音視頻合成等複合形態傳播。
社會危害與治理挑戰
截至2025年，AI謠言已在全球範圍內引發多重治理難題：
- 擾亂社會秩序：偽造突發公共事件信息，如地震謠言、惡性刑事案件等；
- 侵犯個體權益：通過深度偽造技術生成虛假證據損害他人名譽；
- 識別追溯困難：平台審核機制滯後，部分AI內容無有效標識。
治理體系構建
各國採取多維治理措施：
- 技術標識：中國自2025年起實施《人工智慧生成合成內容標識方法》，要求AI生成內容嵌入顯式/隱式標識；
- 法律規制：明確平台需對未標識AI內容承擔連帶責任，最高可追究刑責；
- 協同審核：建立“AI初篩+人工復驗+公眾舉報”三重核查機制。
公眾應對指引
公安部網安局建議採取以下識別步驟：
- 溯源驗證：核查信息發布者資質與歷史可信度；
- 細節比對：關注圖像光影異常、文本邏輯矛盾等技術破綻；
- 驗邏輯：排查時間或地理矛盾；
- 工具輔助：使用國家網路闢謠平台等官方驗證渠道。
