基本介紹
- 外文名：Jack Lindsey
- 職業：AI研究員、神經科學家
- 主要成就：在人工智慧可解釋性領域開展研究
個人經歷,主要成就,主要作品,相關作品,
個人經歷
Jack Lindsey擁有神經科學背景，曾為神經科學家。目前，他是Anthropic公司可解釋性團隊的研究員，他將自己的工作描述為“在人工智慧上進行神經科學的研究”。
主要成就
Jack Lindsey是Anthropic可解釋性團隊的神經科學家，在人工智慧可解釋性領域開展研究。
Jack Lindsey發表了題為《大語言模型的湧現性內省覺察》的博文，介紹了其團隊的研究。該研究探討大語言模型是否知道自己在說什麼。研究使用概念注入方法進行實驗，包括檢驗模型的自省能力、區分注入思想與文本輸入、判斷輸出意圖、意圖控制能力等。實驗結果顯示，模型能感知被注入的思想、區分思想來源，並表現出自我歸因和意志控制，表明大語言模型已湧現出內省意識。模型具備某種元認知能力，即知道自己正在思考什麼，這是在未經過顯式訓練下湧現的能力。
Lindsey反覆警告企業和高風險用戶絕不能輕信模型對自身推理過程的解釋，指出模型解釋可能不可靠，不應盲目相信。Lindsey表示不應直接否定模型的內省聲明，它們有時準確，但也絕不能因此認為應該始終或大多數時候信任它們。Lindsey補充了一個觀察，即模型變聰明的速度，遠超過我們理解它們的進步速度。
該研究認為大語言模型具有功能性內省能力，能夠識別自身內部處理狀態的異常擾動。
主要作品
Jack Lindsey合著了論文《The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models》，該論文發表於2026年1月15日。他還合著了論文《Persona Vectors:語言模型中角色特徵的監控與調控》，該論文發表於2026年2月3日。
相關作品
2025年8月21日，Jack Lindsey以Anthropic可解釋性團隊研究員的身份參與了播客《不止是預測下一個詞:Anthropic團隊最新播客公開大模型的內部心智模型與思考過程》。他在播客中討論了可解釋性研究方法，例如繪製模型的“思維路徑”，並分享了關於模型忠誠度實驗以及幻覺問題的解釋。Jack Lindsey將可解釋性工作的未來展望比作建造一台“AI顯微鏡”。
