基本介紹
- 中文名：AI污染
- 特點：基於成式人工智慧產生的有害或者垃圾信息
常見現象,相關影響,應對策略,
常見現象
在某些熱門社交平台上，充斥著大量AI生成的虛假賬號；
某小說平台的賬號，依靠AI“創作”，一天可更新50部小說，月更字數上千萬，但行文常常邏輯不通、辭藻空洞；
AI內容創作甚至亮相學術界，某頂尖高校學者在SCI發表的論文，因插圖為AI生成，且錯誤百出，僅發表3天被撤稿，淪為學界笑柄……
相關影響
- 新聞真實性受到極大挑戰
生成式人工智慧可以根據人的指令生成不存在的內容，極易被用於自動生成虛假新聞和謠言。深度偽造技術（DeepFake）正快速發展，圖片偽造、音頻合成和視頻換臉在生成式AI的幫助下變得輕而易舉，這些虛假內容能夠以逼真的形式迅速傳播，帶來嚴重的社會影響。
清華大學新聞與傳播學院新媒體研究中心今年4月發布的一份研究報告顯示，近一年來，經濟與企業類AI謠言量增速達99.91%。美國調查機構“新聞守衛”稱，生成虛假文章的網站數量自2023年5月以來激增1000%以上，涉及15種語言。一些專家認為，AI製造的“信息垃圾”產量龐大，且辨別難度較大、篩選成本較高。
- 著作權歸屬問題複雜
傳統著作權通常歸屬於創作者或創作者僱主，但AI著作權可能歸屬於訓練數據的提供者、算法開發者、系統操作者甚至最終用戶，這導致新聞、出版機構在面對科技企業推出的AI工具整合新聞和內容時，可能損失相關流量和廣告收入。
應對策略
應加大對AI學習和生成機制的源頭治理。明確AI平台對源頭素材的把控責任和對生成內容的監管責任，完善AI內容生成規則，強制對AI生成內容打上顯著標識，提升AI技術的透明度和可解釋性。
加強對AI生成內容的篩查監管。有關部門及企業需將監管重點放在對AI生成內容的篩查及審核上，可開發相關的審查算法，規範生成內容向輿論場的流入及傳播途徑，及時發現並刪除低質量或虛假內容。
提高用戶對AI生成內容的辨別能力。網民應理性對待網際網路信息，增強防範意識和識別能力，可使用反向搜尋工具，檢查內容來源和作者信息，分析內容的語言和結構特徵，從而鑒“偽”鑒“劣”。
