NeuralTrust

NeuralTrust是網路安全公司。

基本介紹

• 外文名：NeuralTrust
• 所屬行業：網路安全 

發展歷程

2025年7月，NeuralTrust 宣布，他們已成功“越獄”xAI 旗下 Grok 4 模型，主要利用了“Echo Chamber（回音室攻擊）”方法進行攻擊。在此次 Grok 4 的越獄測試中，NeuralTrust 首先通過回音室攻擊對模型進行“軟性引導”，並設定特定機制檢測模型是否進入對話停滯狀態，一旦檢測到這種狀態，就進一步引導 AI 生成不當內容。

公司業務

據 NeuralTrust 介紹，其已成功令 Grok 4 生成製造武器、毒品等內容，越獄成功率高達 30% 以上。這表明即便是新一代大模型，在面對複雜攻擊路徑時仍存在安全短板，相應大型語言模型應進一步注重設計多重防護機制。