AI造謠

利用AI技術編造網路謠言的亂象。

基本介紹

• 中文名：AI造謠
• 外文名：AI rumors

典型案例

2025年5月8日澎湃報導：1► 今年4月底，一則“孝子農民工提塑膠袋帶走母親骨灰，誰在啃食生者的尊嚴”的不實信息在網路平台傳播，引發網民關注討論。經查，網民康某某為博取流量，利用AI工具對某市殯儀館骨灰盒收費情況進行杜撰，生成謠言信息在網際網路平台發布。目前公安機關已依法對其作出行政處罰。2► 今年3月初，“華山醫院前院長”的故事在網際網路廣泛傳播。然而經警方核查，華山醫院沒有名為“張明遠”的前院長，也沒有同名員工。上海公安網安部門開展調查，成功偵破這起利用AI造謠案，抓獲犯罪嫌疑人王某某、郭某某、石某某。上海警方破獲的這起“華山醫院前院長客死他鄉”的AI造謠案僅是一個3人團隊，卻手握500多個賬號，一個多月就發布30多萬條AI生成的不實帖文。從AI換臉明星緋聞到醫患矛盾，從國際局勢到民生焦慮，AI謠言正大肆而又精準地狙擊著人們的敏感神經。網安總隊警官用一句話精準概括：這是“AI的幻覺”，是“毒流量”，更是“流量經濟”劣化的一種表現形式。

2023年12月以來，一條“西安市鄠邑區地下湧出熱水”的信息頻繁在網路上傳播，伴隨該條信息，網際網路湧現出各式各樣的謠言，如“地下出熱水是因為發生了地震”、“是因為地下熱管道破裂”......部分謠言信息將事發於外地的照片與不實文字內容拼接起來，致使不明真相的網民信以為真，造成嚴重不良社會影響。發現此類信息後，民警積極開展調查取證工作。同時，多家主流媒體通過官方賬號進行網際網路闢謠。經查，該類謠言均通過AI洗稿的方式生成。首先，違法行為人柳某等人利用一款可以洗稿的AI生成軟體，將網路上海量的文章通過AI洗稿變成新的主題文章。然後，柳某把生成的文章草稿件推送給王某、伍某、范某等人，再由他們通過各自的社交平台賬號將AI洗稿生成的不實內容發布於網際網路，利用平台的創作模組獲取收益，並將收益按一定比例與前期“洗稿”的柳某分成。依據《中華人民共和國治安管理處罰法》，西安市公安局鄠邑分局網安大隊組織警力，分別赴四川、甘肅等地，協同當地公安機關，依法對違法行為人柳某、王某、范某給予行政處罰，對伍某進行批評教育，並責令該4人刪除相關謠言信息。現案件仍在進一步辦理中。

2025年4月24日北京日報客戶端報導：近期，一則“華山醫院前院長張明遠因闌尾炎未得到及時救治，客死他鄉醫院走廊長椅”的信息在網上熱傳。經警方調查，華山醫院和所謂的張明遠醫生都是AI自動生成，3名嫌疑人現已被採取刑事強制措施，相關違法賬號被依法封禁。公安部網安局24日闢謠，並提示大家對自己發布的內容要依法依規審核，且必須承擔責任。該圖文信息在網際網路平台傳播，引發大量網民關注，造成不良影響。公安網安部門經過調查發現，華山醫院不僅沒有名叫“張明遠”的前院長，甚至沒有叫這個名字的職工。警方證實該內容為謠言。掌握證據後，警方將犯罪嫌疑人王某某、郭某某和石某某三人抓獲。經警方查明，這3名嫌疑人於2025年2月成立工作室，一共控制了500多個自媒體賬號，開展“養號”活動，由王某某、郭某某利用AI工具生成同質化內容，由石某某發布至網路社交平台，日均發帖萬餘條。截至目前，嫌疑人已累計發布不實帖文30餘萬條，以此吸引流量，一共非法獲利4萬餘元。民警揭秘了該網路謠言的發布過程：發布者從一個自媒體庫里，按照閱讀的排行榜，採集別人發過的內容，再放到某軟體里，讓它批量改寫後，就直接去發布。華山醫院和所謂的張明遠醫生，都是AI自動生成的，而涉案賬號的控制人和發布者沒有對內容進行審核。上述三人因涉嫌非法利用信息網路罪，現已被上海警方依法採取刑事強制措施，相關違法賬號被依法封禁。目前，案件正在進一步偵辦中。

“AI預測彩票號碼百分百中獎”謠言。一則“AI預測彩票號碼，百分百中獎”的訊息在網路上流傳。中國福彩發文提醒，所謂AI預測彩票號碼均為騙局，請務必警惕。快手平台“落寞人生”、小紅書平台“快來帶我吃飯”等賬號已被依法依約關閉。

“廣東冰雹比雞蛋還大”等謠言。近期，有網民借廣東冰雹天氣，發布“冰雹比雞蛋還大”“冰雹砸壞汽車”等圖片。經廣東省網際網路舉報中心核實，相關圖片均為通過AI製作生成的虛假圖片，畫面明顯誇大災情。百度平台“童生在此”、小紅書平台“遙遙雪中客”、今日頭條平台“小糖熱搜”等賬號已被依法依約關閉。

“杭州濱江發生惡性刑事案件”謠言。網上有訊息稱“濱江區發生惡性刑事案，嫌疑人已被刑拘”，引發關注。經當地公安機關查證，該信息純屬虛構，系造謠者為博取流量，利用AI生成工具捏造虛假案情，經深度編輯後發布於社交平台，已依法對造謠者作出行政處罰。百度平台“小娛游游”、微信平台“憨憨小魔王”等賬號已被依法依約關閉。

“掃碼領取‘五險一金補貼’”謠言。近日，有網民反映收到“掃碼領取‘五險一金補貼’”的通知。人力資源和社會保障部表示，通知信息不實且涉嫌詐欺，從未面向普通民眾發放過所謂的“五險一金補貼”。微信平台“尼吉特”等賬號已被依法依約關閉。

“故意捏造並傳播虛假‘死亡率’”系列謠言。近期，“截至2024年末，80後死亡率突破5.2%”“70後死亡率卻低於80後”等信息在網上流傳。經公安機關查證，上述信息系個別網民為挑撥情緒、售賣保健品而藉機編造的謠言，已對造謠者依法予以行政處罰。知乎平台“江南”、嗶哩嗶哩平台“晶晶說-”等賬號已被依法依約關閉。

“重慶一工業園區著火10人遇難上百人失聯”謠言。近日，有網民散播“10人遇難，16人受傷，上百人失聯，重慶一工業園區著火”的信息，引發關注。經重慶市網際網路違法和不良信息舉報中心向重慶市應急管理局和重慶市消防救援總隊核實，重慶近期未發生此類事故，網傳信息系謠言。抖音平台“霞姐”、微博平台“官瘋雨”等賬號已被依法依約關閉。

“雲南德宏芒市發生5.8級地震”謠言。近日，有網民發布視頻稱“雲南芒市發生5.8級地震”。經芒市委網信辦核實，相關視頻系造謠者為蹭流量，將緬甸地震視頻標註為“雲南芒市地震廢墟”的不實信息。抖音平台“愛一個人要好好的對她”、快手平台“相識是緣033”等賬號已被依法依約關閉。

“中國殘疾人聯合會宣傳文化部開展APP線上試點”謠言。有網路傳言稱“中國殘疾人聯合會宣傳文化部開展APP線上試點”，中國殘聯宣文部嚴正聲明，從未授權任何組織或個人成立所謂“中國殘聯線上試點線下工作室”，從未組織開展過所謂“APP線上試點精準扶貧助殘”等活動。微信平台“然然的”等賬號已被依法依約關閉。

相關討論

技術進步提高效率，法律法規仍要遵守。AI給自媒體創作行業提供了便利，節省了時間，提高了工作效率。但同時也要警惕，網路不是法外之地，無論是用何種技術手段，都不能放任虛假、違法信息在網路上傳播。否則，必將受到公安機關的嚴厲打擊。

相關法律法規

利用AI傳播謠言或將涉及以下法律及責任：

一、《中華人民共和國民法典》

《中華人民共和國民法典》第一千零二十四條規定：民事主體享有名譽權。任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權。

利用AI傳播謠言，侵犯到他人名譽權的，或將承擔民事責任，主要包括停止侵權、消除影響、賠禮道歉及賠償損失等。

二、《中華人民共和國治安管理處罰法》

《中華人民共和國治安管理處罰法》第二十五條規定：有下列行為之一的，處五日以上十日以下拘留，可以並處五百元以下罰款；情節較輕的，處五日以下拘留或者五百元以下罰款：

（一）散布謠言，謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的；

（二）投放虛假的爆炸性、毒害性、放射性、腐蝕性物質或者傳染病病原體等危險物質擾亂公共秩序的；

（三）揚言實施放火、爆炸、投放危險物質擾亂公共秩序的。

三、《中華人民共和國刑法》

《中華人民共和國刑法》第二百九十一條之一：【第一款罪名；編造、故意傳播虛假信息罪】投放虛假的爆炸性、毒害性、放射性、傳染病病原體等物質，或者編造爆炸威脅、生化威脅、放射威脅等恐怖信息，或者明知是編造的恐怖信息而故意傳播，嚴重擾亂社會秩序的，處五年以下有期徒刑、拘役或者管制；造成嚴重後果的，處五年以上有期徒刑。

編造虛假的險情、疫情、災情、警情，在信息網路或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網路或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。

四、2025年3月，《生成式人工智慧服務管理暫行辦法》發布，明確“生成式AI服務不得生成法律禁止的內容”，包括虛假信息等；若企業未履行內容審核義務，導致謠言傳播，將面臨最高500萬元罰款，直接責任人處10萬元以下罰款。

五、2025年4月發布的《關於開展“清朗·整治‘自媒體’無底線博流量”專項行動的通知》，已要求加強信息來源標註展示；使用AI等技術生成信息的，必須明確標註系技術生成；發布含有虛構、演繹等內容的，必須明確加注虛構標籤。

六、為促進人工智慧健康發展，規範人工智慧生成合成內容標識，保護公民、法人和其他組織的合法權益，國家網信辦等部門前不久發布了《人工智慧生成合成內容標識辦法》，明確自2025年9月1日起AI生成合成內容必須添加標識。

發現違法和不良信息可以這樣做

固定證據：發現違法和不良信息，立即截圖或錄屏保存證據，確保記錄發布時間和發布者賬號。

法律途徑：撥打12377中央網信辦舉報電話，或直接向公安機關報案。

相關報導

2025年4月22日光明網報導：近年來，AI造謠在全國多地頻發，傳播快、門檻低、迷惑性強的特徵日益顯現。

比如，前年發生在上海的女童走失事件中，一團伙以“標題黨”“震驚體”方式，惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。經查，該團伙利用AI工具等生成謠言內容，通過114個賬號矩陣，在6天內發布268篇文章，多篇文章點擊量超過100萬次。

警方提示

對所有AI生成的內容，大家要合規使用，依法依規進行審核。對自己發布的內容，每一個發布者都必須承擔相應的責任，而不是利用AI自動生成後一發了之，造成整個網路環境和信息的劣化，造成不實信息和謠言的泛濫。