基本介紹
- 中文名：以模治模
- 定義：一種AI安全策略
基本含義,基本特徵,套用,影響,發展歷程,
基本含義
以模治模是一種應對人工智慧安全挑戰的策略，其核心是利用大模型或AI技術來解決大模型自身帶來的安全問題。2025年11月，數字安全企業在《大模型安全白皮書》中首次系統性闡釋了該理念，並提出了“外築‘以模治模’動態屏障，內固‘平台原生’安全底座”的核心理念。在技術定位上，它屬於“外掛式安全”，側重模型的外部防護，通過對算力主機、軟體生態、輸入輸出內容及模型幻覺進行主動監測與防禦，以實現對AI系統安全、內容安全及“幻覺”等問題的緩解。該方式具備適配性強、部署成本低以及回響迅速（可在毫秒級別識別並阻斷實時威脅）等優勢。
基本特徵
‘以模治模’策略在部署和回響方面具備優勢，包括適配性強、部署成本低，可作為通用組件快速接入不同企業環境；以及回響迅速，具備獨立監測與攔截機制，可在毫秒級別識別並阻斷實時威脅。
在具體技術路線上，也存在採用‘小模型’技術來保障大模型安全的實踐。
套用
目前從產業界來看，“以模治模”正加速成為新共識。有安全研究人員提出了構建“大模型越獄第二大腦”的思路，通過“大模型越獄的CODE構建法”，利用向量資料庫、圖資料庫等技術分析存儲攻擊論文，並通過LLOOM for jailbreak算法聚類，實現自動化越獄攻擊生成。
一些雲安全方案提供了包括資產掃描、漏洞檢測、資源風險檢查與報告生成在內的能力，用於發現相關風險，保護數據和算力資源。
在防範AIGC攻擊方面，有方案採用“以模治模”思路，利用AIGC技術對抗AIGC欺詐；也有方案利用AI進行活體檢測，通過分析互動過程中的形變信息建模來攔截攻擊。
此外，產業界還提出了“外掛式安全+平台原生安全”的雙軌治理策略。其中，“以模治模”作為外掛式安全的核心，用於構建動態屏障，實現對算力主機、軟體生態、輸入輸出內容及模型幻覺的主動監測與防禦。該方式在適配性、部署和回響方面具有一定特點。
影響
隨著數字文明時代的到來，AI的全新特性也帶來了前所未有的安全挑戰。面對AI時代的新威脅，“以模治模”，用AI對抗AI正加速成為新共識。
該策略旨在通過“以模治模”的手段，解決大模型的系統安全、內容安全問題，緩解“幻覺”問題，以及防止智慧型體失控。利用AI的深度學習技術，可以訓練模型來識別特徵，從而判斷內容是否由AI生成。同時利用安全智慧型體復刻頂尖安全專家的分析邏輯、回響策略和處置經驗，實現安全能力的規模化複製與持續線上。
在產業實踐中，“以模治模”已發展為系統的治理理念，例如與“平台原生安全”結合，構成“外築‘以模治模’動態屏障，內固‘平台原生’安全底座”的雙軌治理策略。
發展歷程
2024年3月，業界已出現利用大模型對抗大模型以鑑別AIGC（人工智慧生成內容）的明確思路，旨在應對AI視頻詐欺等威脅。同期，螞蟻數科、騰訊雲慧眼及360等安全廠商已開始探索並實踐類似的“以AI打敗AI”或“以模治模”的防禦方案。
至2025年4月，“以模治模”在產業界加速成為應對AI安全問題的共識。京東藍軍-白鵺攻防實驗室的安全研究員Knight提出了構建“大模型越獄第二大腦”的創新思路及具體的“CODE構建法”，旨在通過大模型技術來解決大模型的安全難題。
2025年7月，在數位化作為國家戰略核心的背景下，“以模治模”被作為“AI安全之道”進行探討。同年11月，360數字安全集團發布的《大模型安全白皮書》首次系統性闡釋了大模型運行時風險，並將“以模治模”建設性地提升為“外掛式安全”的核心治理理念，明確了其作為動態屏障、用於主動監測與防禦的角色。該方式具備適配性強、部署成本低以及回響迅速的優勢。
進入2026年，面對全球APT（高級持續性威脅）攻防戰升級等新威脅，專家建議通過“以模治模”手段解決大模型的系統與內容安全問題，並利用安全智慧型體實現安全能力的規模化複製。
