AI治理

AI治理是指運用人工智慧技術應對AI生成網路謠言的系統性工程，涵蓋技術防控、法律法規、公眾教育和行業協同等多維度措施。隨著生成式人工智慧服務的迅速普及，網路謠言呈現出多模態、高仿真、大規模等新特徵，2023年以來AI謠言信息量在半年內增長65%。其核心策略包括構建多模態檢測技術與全鏈路治理體系，例如抖音平台引入大模型實現“發現即管控”，使謠言曝光量單季度下降67%；巨量引擎於2025年10月首次披露自研多模態大模型，第三季度攔截84萬餘個涉AI廣告違規素材。

國際層面，歐盟《人工智慧法案》於2024年8月生效，韓國《人工智慧基本法》於2026年1月施行，均採取風險分級和全鏈條監管原則。中國發布《人工智慧安全治理框架》2.0版，新增可信套用原則、人工智慧安全風險分級管理及生成內容追溯機制，強調技術防護與協同治理。學界建議組建包含監管、平台及倫理委員會的“共治聯盟”以應對AI換臉侵權等新型風險。智譜宣布持續提升模型治理水平與服務能力，較早參與國際AI安全治理工作。

基本介紹

• 中文名：AI治理
• 屬性：人工智慧技術

背景信息

隨著生成式人工智慧服務的迅速普及，網路謠言也呈現出多模態、高仿真、大規模等新特徵。據清華大學新聞與傳播學院新媒體研究中心發布的報告顯示，2023年以來，人工智慧技術被濫用導致AI謠言信息量在半年內增長65%，顯著提高了網路治理的複雜性與緊迫性。

應對措施

面對這一挑戰，行業正積極回擊，用AI治理AI。抖音日前宣布，在其平台謠言治理中引入大模型能力，實現“發現即管控”，初步形成規模化、自動化治理能力。此舉使平台上的謠言曝光量在一個季度內下降67%。

未來發展

AI治理不僅限於“闢謠”，而是涵蓋技術防控、法律法規、公眾教育和行業協同的系統工程。具體到技術層面，需覆蓋從模型預訓練、有監督指令微調，到推理及智慧型體開發的全產業鏈條治理，如GLM模型通過全鏈條技術治理實現低幻覺指標全球領先。未來，伴隨大模型持續疊代與多模態檢測技術升級，AI治理效率有望進一步提升。據行業實踐顯示，治理體系將實現從三級向四級的躍遷，通過將三級治理水平與行業套用深度結合，以套用反哺治理能力升級，最終實現四級治理水平以增強國際競爭力。與此同時，如何健全AI倫理規範、強化平台責任、提升公眾信息素養，也將成為產業和政策層面長期關注的議題。

在治理路徑層面，可探索通過金融領域AI原生套用的實踐反哺治理能力升級，例如通過手機銀行等高頻業務場景的人機協同機制建設，形成治理與套用的良性互動閉環。