Logan Graham

Logan Graham是Anthropic前沿紅隊(Frontier Red Team)的負責人。該團隊負責壓力測試公司最先進的AI系統。

在2025年2月,因預警顯示新版Claude模型可能被用於製造生物武器,Logan Graham參與了相關測試與分析工作。其團隊基於Opus 4.6模型在開原始碼庫中發現了超過500個此前未被檢出的高危漏洞。Logan Graham在美國國會眾議院小組委員會就AI與網路安全的議題作證。他在2018年至2025年間合著了多篇學術論文,包括《Constitutional Classifiers》和《Sleeper Agents》等。

在Anthropic的職務與職責,前沿安全測試與漏洞發現,國會聽證與政策倡導,

在Anthropic的職務與職責

Logan Graham在Anthropic擔任前沿紅隊負責人(Frontier Red Team Department Head)。他領導一個約15人的前沿紅隊。該團隊負責壓力測試公司最先進的AI系統,以發現如生物武器製造、網路安全漏洞等潛在威脅。
例如,在2025年2月,Logan Graham及其團隊因預警顯示新版Claude模型可能幫助恐怖分子製造生物武器,而參與了推遲發布Claude 3.7 Sonnet的決策過程。此外,其團隊在生產級開原始碼庫中發現了超過500個此前未被檢出的漏洞。Logan Graham也曾代表公司參與政策討論(詳見“國會聽證與政策倡導”章節)。

前沿安全測試與漏洞發現

作為Anthropic內部前沿紅隊負責人,Logan Graham的團隊基於Opus 4.6模型進行了相關研究,並支撐了Claude Code Security等代碼安全工具的開發。
2026年2月,其團隊利用Opus 4.6模型在生產級開原始碼庫中發現了超過500個此前未被檢出的高危漏洞,其中一些漏洞已存在數十年。
該實驗在沙盒環境中進行,主要測試模型“開箱即用”的自主能力,即在不提供專門提示或腳手架的情況下,Opus 4.6能像初級安全研究員一樣逐步探索代碼庫、測試組件行為並追蹤線索。
Logan Graham指出,AI在漏洞發現方面極其擅長且預期會變得更強,這是防禦者與攻擊者之間的競賽,需要儘快將工具交到防禦者手中。

國會聽證與政策倡導

Logan Graham於2026年2月出席了美國眾議院相關小組委員會聽證會,就人工智慧與網路安全議題作證。他在證詞中披露,國家支持的網路攻擊者曾利用Claude自動化執行網路攻擊,並指出使用智慧型體人工智慧系統可將執行有效網路攻擊所需人力任務的80-90%自動化,這顯著提升了攻擊的速度和規模。攻擊者使用了複雜的混淆網路來規避安全檢測機制。
為應對此類威脅,Logan Graham向國會提出政策建議,包括建立針對國家安全的模型快速測試機制、建立模型開發者向相關政府機構報告關切的威脅情報共享計畫,以及賦能網路防禦者對等的人工智慧能力。

相關詞條

熱門詞條

聯絡我們