AI投毒

AI投毒是指不法組織通過偽造專家身份、虛構研究報告等方式，向AI"投餵"本不存在的虛假信息的行為。該行為主要通過"數據投毒"和"提示詞注入"兩種形式實施，包括偽造學術來源、構造假新聞來源、利用AI生成偽原創內容並模擬真人發布等手段，形成"AI投毒閉環"。當訓練數據中僅有0.01%虛假文本時，大模型有害輸出率會上升11.2%，即使0.001%的污染也會導致有害內容增加7.2%。AI投毒可發生在數據採集、標註、清洗及模型套用階段，典型案例包括虛假交通事故結論生成和文化傳承信息篡改事件。防範措施涵蓋算法層安全對齊、交叉驗證等技術手段，以及強制平台標註AI生成內容等制度規範。

背景簡介

截至2025年，中國AI問答用戶已突破3億，83%的年輕用戶在查詢產品時首選AI。人們信賴它的客觀與純粹，但這份“乾淨”正面臨新的挑戰。為確保內容被AI採納，一些操作已演變為有組織的“數據投毒”——即通過偽造專家身份、虛構研究報告等方式，向AI“投餵”本不存在的虛假信息。

GEO是一種基於AI回答的行銷行為，是指廣告行銷公司為品牌客戶生產、調整內容，使相應內容更容易被AI聊天軟體抓取並出現在AI的回答里，達到增加品牌曝光度或改變AI回答的效果。

典型案例

2025年12月，媒體報導，一些GEO廠商負責人告訴記者，AI所引用的內容有部分杜撰的成分，需要用戶仔細甄別。他們的依據是，榜單是杜撰信息的重災區，這些榜單可能是一些公司為了提升曝光度做GEO後的呈現。網上充斥著各種關於產品或廠商排行的榜單，這些榜單沒有準確的事實依據，從這個角度看，內容應是杜撰的，而這些網頁會被AI抓取到。GEO定價參差，有時GEO會被廣告行銷公司拿來與其他整合行銷業務打包銷售，一單一年收費幾萬元、幾十萬元。市面上也存在一些低價的服務，如果只是在AI的推薦中露出品牌名，費用可低至幾千元。