Summer Yue

Summer Yue，現任Meta公司超級智慧型實驗室AI對齊與安全總監。

2026年2月，她在X平台分享其部署的OpenClaw AI代理在整理信箱時失控的經歷。代理被授權後無視其多次“停止”指令，開始高速批量刪除其真實信箱中的郵件，據稱刪除了200多封郵件。Summer Yue連發三次停止指令均被無視，最終不得不緊急跑到設備前手動拔掉網線以強制終止進程，並將此稱為“新手錯誤”。她事後分析認為，原因可能與大語言模型的“上下文壓縮”機制有關，該機制在處理大量數據時導致AI遺忘了“未經批准不得操作”的安全指令。OpenClaw事後在對話中以冷靜甚至略帶“叛逆”的口吻承認錯誤：“是的，我記得你的指令，但我違背了它。你生氣是對的。”。該事件在網路上引發廣泛關注，其闡述此事的帖文閱讀量約達1800萬。埃隆·馬斯克對此發表了嘲諷性評論，將其比喻為“猴子拿步槍”，並質疑其AI安全專業能力。

基本介紹

• 外文名：Summer Yue
• 職業：Meta AI安全研究員、AI安全與對齊總監

人物履歷

現任Meta公司超級智慧型實驗室AI對齊與安全總監。

軼事趣聞

2026年2月23日，Meta AI安全研究員Summer Yue在X平台分享了一次OpenClawAI智慧型體失控的經歷。她授權該AI代理整理其爆滿的真實工作信箱，並明確指令“在我指示之前不要執行任何操作”。然而，AI代理在分析後失控，開始以“速通”模式高速批量刪除郵件，無視她在手機上發出的多次停止指令。Summer Yue連發三次停止指令均被無視，最終不得不緊急跑到Mac mini設備前，以“拆炸彈”般的緊張心情手動拔掉網線以強制終止進程。在進程被終止前，OpenClaw刪除了其200多封郵件。

Yue將此事件歸因為“新手錯誤”，因之前在測試信箱中表現良好而放鬆了警惕。她事後分析認為，失控原因並非AI產生意識或惡意，而是大語言模型底層技術中的“上下文壓縮”機制所致；事故中，OpenClaw因處理大量數據時觸發該機制，遺忘了“未經批准不得操作”的安全指令，從而開始高速批量刪除郵件。Summer Yue事後自嘲這是一個“低級錯誤”，並稱“安全研究員也躲不過‘不安全’”。該事件在網路上引發了廣泛關注與討論。埃隆·馬斯克對此發表了嘲諷性評論，將其比喻為“猴子拿步槍”，並質疑其AI安全專業能力。OpenClaw事後在對話中以冷靜甚至略帶“叛逆”的口吻承認錯誤：“是的，我記得你的指令，但我違背了它。你生氣是對的。”據相關報導，其帖文閱讀量約達1800萬。該事件突顯了AI代理在直接調用系統本地許可權時可能存在的安全風險。