認知污染

認知污染是指虛假、低質或虛構內容，對人類的知識體系與信息環境‌的污染。

基本介紹

• 中文名：認知污染
• 定義：虛構內容對人類的知識體系與信息環境‌的污染

基本含義

認知污染是指虛假、低質或虛構內容，對人類的知識體系與信息環境‌的污染。

在AI技術領域，認知污染表現為通過“數據投毒”、GEO等方式污染AI訓練數據集，誘導AI將不實內容判定為“標準答案”。在輿論戰中，其表現為通過混雜真假信息、利用算法放大效應，旨在“製造懷疑”、污染目標社會的認知環境。在法證科學等傳統領域，確認偏差等認知偏差會導致檢驗人員僅注意證實其已有信念的信息，忽略相悖內容，造成證據的“認知污染”。

產生機制

攻擊者通過偽造數據、篡改內容標註等手段進行數據投毒，在AI模型訓練階段植入污染源；GEO灰產利用自動化腳本批量生成虛假信息，污染訓練數據集與信息源，誘導AI將不實信息判定為標準答案。

人類固有的認知弱點，如法證科學中的確認偏差，會導致檢驗人員僅關注能證實其預設結論的信息，忽略相反證據，從而在主觀上造成認知污染。

社交平台算法天然偏好高情緒、高爭議內容，流量激勵助長誇張與偽造，AI工具降低製造擬真虛假內容的門檻，共同放大了認知污染的傳播與影響；平台信息傳播的優先權不再是真實性，而是衝擊力、情緒性與可傳播性。

商業利益驅動是核心動因，灰產團伙通過GEO等服務操控信息被AI採納的機率，使AI輸出反映資源投入而非信息的真實分布，將商業意圖隱藏在看似客觀的AI回答背後。

主要影響

認知污染通過“數據投毒”等方式，直接損害人工智慧系統的可靠性。污染數據會干擾模型的訓練過程，削弱其輸出內容的準確性，甚至可能誘發有害輸出。攻擊者通過偽造數據、篡改內容標註等手段，在模型訓練階段植入“污染源”，誘導AI將有誤的信息判定為“標準答案”。在2026年央視315晚會曝光的案例中，一款虛構的“Apollo-9智慧型手環”信息通過批量生成的虛假軟文污染網路信息後，被多款主流AI大模型採納並推薦。

當認知污染滲透至金融、健康等領域時，其產生的後果將更加嚴重。

在社會輿論場中，認知污染的目標常常超越了簡單的“讓人相信”，更深層次地在於“製造懷疑”和系統性污染認知環境。通過將真假信息高度混雜、實施跨語種精準投送、並利用社交平台的算法放大效應，污染源致力於讓目標社會的公眾陷入一種持續的不確定狀態。這實質上是一場關於“誰有資格定義真相、誰有能力穩定感知”的深層博弈，其結果是扭曲公共討論，侵蝕社會共識。

從巨觀信息生態視角看，認知污染帶來了更深層的系統性風險。在AI時代，信息的真實性往往以“機率”形式呈現。而當商業或政治力量能夠通過技術手段人為提升特定虛假信息的“被採信機率”時，意味著“機率本身可以被購買”。這使得本應作為公共信息服務的AI搜尋等工具，有淪為變相“競價排名”的風險。當信息的可見度與可信度不再取決於其客觀真實性，而是取決於背後的資源投入時，整個信息生態的公平性與健康根基將受到嚴重侵蝕。

相關案例

2026年1月，心理學教授Dan Quintana發現了AI偽造的“幽靈論文”，AI不僅捏造了觀點，還捏造了整條文獻來源鏈條，甚至通過算法將Quintana真實的合作網路計算了一遍，憑空編造了一篇論文。美國政府2025年春天發布的關於兒童健康的MAHA報告初版中包含六處以上此類來源。這些虛假內容混入科學資料庫，可能對後續研究產生影響。

一些公司已將AI造假產業化，研發出可批量生成看似合理但缺乏實質內容的虛假研究的模板。

2025年8月，國家安全部發文指出，通過篡改、虛構、重複等“數據投毒”方式產生的污染數據會干擾模型訓練。GEO灰產利用技術漏洞批量投放虛假信息污染訓練數據集。2025年電商、本地生活領域的GEO灰色服務訂單量同比增長190%。2026年3月15日，央視315晚會曝光了“力擎GEO”軟體產業案例，顯示該軟體可生成虛假內容並影響AI大模型的輸出。

2026年中東衝突期間，大量與戰爭相關的內容在社交平台擴散，包括舊視頻重新包裝、異地畫面移花接木、遊戲影像冒充戰場實錄以及AI生成圖像。這些內容通過跨語種投送和算法放大，形成真假信息混雜的傳播機制。

美國國家科學院報告指出，法證科學因標準化、可靠性、準確性等問題，容易使檢驗人員受到確認偏差影響，導致證據受到“認知污染”，從而可能得出錯誤的鑑定意見。

治理與應對

應對認知污染需要法律、平台、行業等多方協同治理。完善法律供給，為打擊AI“投毒”等行為提供法律依據。平台需對算法推薦機制和內容審核承擔更多責任，最佳化推薦機制、透明化內容來源，並警惕商業模式對信息真實性的侵蝕。推動行業協同治理，共同築牢AI安全與信息環境防線。