TurboQuant是谷歌於2026年3月26日發布的AI記憶體壓縮算法。該算法可以在不損失準確性的前提下，將大型語言模型運行時的鍵值快取記憶體占用減少至少6倍。在英偉達H100加速器上，最高可實現約8倍性能提升。TurboQuant使用QJL算法消除隱藏誤差，並結合PolarQuant方法將鍵值快取壓縮至3比特精度，無需重新訓練或微調模型，在所有基準測試中均取得了較好的下游結果，並在Gemma和Mistral等開源模型上驗證。該技術發布後，被Cloudflare執行長Matthew Prince等人稱為谷歌的“DeepSeek時刻”。訊息引發美股、韓股及A股存儲板塊股價波動。摩根史坦利指出，TurboQuant僅作用於推理階段的鍵值快取，不影響模型權重與訓練任務，對算力與記憶體硬體的長期影響呈“中性偏正面”信號。
2025年4月，谷歌發表了TurboQuant的相關論文。2026年3月26日，谷歌正式發布該技術。谷歌計畫於2026年4月在ICLR會議上展示TurboQuant。
基本介紹
- 中文名：TurboQuant
- 外文名：TurboQuant
- 發布方：谷歌
研發背景,算法性質,核心技術,算法特點,發展歷程,重要事件,市場反應,相關爭議,核心團隊,
研發背景
TurboQuant是谷歌研究院於2026年3月26日發布的AI記憶體壓縮算法。隨著大語言模型和向量搜尋引擎的上下文視窗不斷增大，推理階段的鍵值快取成為主要的記憶體瓶頸，制約了AI系統的運行效率和成本。傳統的向量量化方法在壓縮時，每個數字通常會產生1-2比特的額外記憶體開銷，部分抵消了壓縮收益。TurboQuant正是為了最佳化這一記憶體瓶頸問題而設計的壓縮算法，旨在降低大語言模型和向量搜尋引擎的記憶體占用。
算法性質
根據谷歌發布的信息，TurboQuant技術能夠將鍵值記憶體大小至少減少6倍。
TurboQuant是一種壓縮方法，它能夠在不損失任何精度的前提下大幅減小模型大小，因此非常適合支持鍵值快取（KV Cache）壓縮和向量搜尋。它通過兩個關鍵步驟實現這一點：
1、高質量壓縮（PolarQuant method）：TurboQuant 首先隨機旋轉數據向量。這一巧妙的步驟簡化了數據的幾何結構，使得可以輕鬆地將標準的高質量量化器分別套用於向量的每個部分。第一階段利用了大部分壓縮能力（大部分比特）來保留原始向量的主要概念和特徵。
2、消除隱藏誤差：TurboQuant 使用少量剩餘的壓縮能力（僅1比特）將QJL算法套用於第一階段遺留的微小誤差。QJL 階段充當數學誤差檢查器，消除偏差，從而獲得更準確的注意力評分。
核心技術
TurboQuant採用兩階段壓縮架構。第一階段採用PolarQuant（極坐標量化）技術，通過將數據向量從笛卡爾坐標系轉換為極坐標（半徑+角度），並映射至固定的圓形格線，從而消除傳統量化方法所需的歸一化步驟及由此產生的額外記憶體開銷。第二階段採用QJL（量化Johnson-Lindenstrauss變換）技術，僅用1比特對第一階段壓縮後遺留的微小殘差誤差進行無偏校正，確保最終注意力分數的精準度。該架構解決了傳統向量量化方法中每個數值產生1至2比特額外記憶體開銷的問題。
TurboQuant具有“數據無感知”特性，無需對模型進行重新訓練或微調，即可直接適配Gemma、Llama、Mistral等主流開源模型。其核心研究團隊包括Google Research的研究科學家Amir Zandieh（第一作者）、Google Research副總裁兼Google Fellow Vahab Mirrokni（通訊作者）等。相關論文（TurboQuant、PolarQuant、QJL）計畫或已在ICLR 2026、AISTATS 2026、AAAI 2025等頂級學術會議上發表。
算法特點
TurboQuant是一種在保持AI模型核心結構不變的情況下對模型進行壓縮的技術，無需預處理或特定的校準數據。該技術採用了結合量化與誤差校正的技術框架，以提升壓縮效率。
谷歌使用開源的長上下文模型（Gemma和Mistral），在包括LongBench、Needle In A Haystack、ZeroSCROLLS、RULER和L-Eval在內的多項基準測試中，對 TurboQuant、PolarQuant 和KIVI這三種算法進行了評估。
實驗數據表明，TurboQuant在點積失真和召回率方面均達到了較優的性能，同時減少了鍵值（KV）記憶體占用。根據基準測試結果，TurboQuant能有效減少鍵值快取記憶體占用，同時保持模型準確性。
TurboQuant在所有基準測試中均取得了較好的下游結果，同時將鍵值記憶體大小減少了6倍以上。
發展歷程
2025年4月，谷歌發表了TurboQuant的相關論文。該論文以預印本形式在arXiv平台上公開。
2026年3月24日，谷歌研究院通過官方博文介紹了TurboQuant算法。2026年3月26日，谷歌正式發布了該技術。該訊息引發美股、韓股及A股存儲板塊股價波動。受此影響，計算機記憶體與存儲類股票普遍下跌。
谷歌計畫於2026年4月在ICLR會議上展示TurboQuant。谷歌計畫在4月的國際學習表征會議(ICLR 2026)上正式展示該技術。構成TurboQuant基礎的核心技術之一PolarQuant，也計畫在人工智慧與統計學會議(AISTATS 2026)上亮相。
該研究由谷歌研究院的科學家主導，相關論文的第一作者為Amir Zandieh，通訊作者為谷歌研究員兼谷歌院士(Google Fellow)Vahab Mirrokni。
重要事件
TurboQuant算法的相關研究論文最早於2025年4月在預印本平台arXiv上公開。
發布後，技術社區迅速進行驗證，例如Apple Silicon MLX框架的開發者將算法移植並在Qwen3.5-35B等模型上測試有效。Cloudflare執行長Matthew Prince將此次技術突破稱為谷歌的“DeepSeek時刻”，亦有業內人士將其比作美劇《矽谷》中憑藉無損壓縮算法顛覆行業的虛構公司“Pied Piper”。
谷歌計畫於2026年4月舉辦的國際學習表征會議（ICLR 2026）上正式展示該項技術。
市場反應
2026年3月26日，谷歌發布AI記憶體壓縮技術TurboQuant後，引發了科技圈的廣泛震動。Cloudflare執行長Matthew Prince等人將其稱之為谷歌的“DeepSeek時刻”。該訊息對全球存儲晶片及硬體市場產生了顯著的短期衝擊，美股的美光科技、閃迪、西部數據、希捷科技，韓股的三星電子與SK海力士股價均一度大跌，A股市場的存儲板塊也展開調整。其中，SK海力士股價一度下跌6%，東京市場的鎧俠控股下跌4.4%。技術發布當日（2026年3月25日），美股存儲晶片板塊盤中即遭遇拋售，閃迪盤中一度跌超7%，收盤跌3.5%；美光科技收跌3.4%；西部數據和希捷科技也一同下跌。次日（3月26日），相關板塊盤前交易仍普遍下跌。
然而，華爾街投行表現相對冷靜，有分析師對該技術的“顛覆性”提出質疑。例如，富國銀行TMT分析師Andrew Rocha指出，該技術若普及將利好記憶體成本控制，但可能改變市場對記憶體容量規格的需求判斷，且技術能否推廣至谷歌體系外及實驗室成果向生產環境轉化仍需觀察。Lynx Equity Strategies分析師KC Rajkumar指出，媒體對“8倍性能提升”的報導存在誇大，因其對比基線是未量化的32位方案，而非當前業界通用的4位量化。摩根史坦利指出，TurboQuant僅作用於推理階段的鍵值快取，完全不影響模型訓練任務，也不影響模型權重所占用的高頻寬記憶體。該投行進一步分析指出，TurboQuant並非使存儲總需求減少6倍，而是通過提升單GPU吞吐量，使相同硬體可支持更長上下文或更大批處理規模，並援引“傑文斯悖論”解釋效率提升可能激發更多需求。該技術對算力與記憶體硬體的長期影響不僅不是利空，反而呈現出“中性偏正面”的積極信號。
相關爭議
Lynx Equity Strategies分析師KC Rajkumar提出，TurboQuant的技術“顛覆性”可能並沒有媒體描述的那么誇張。他表示，谷歌所謂的“8倍性能提升”是建立在與老舊的32-bit模型對比之上的，然而當前的推理模型早已廣泛採用4-bit量化數據，因此性能提升幅度並沒有那么誇張。
摩根史坦利還指出，谷歌TurboQuant技術僅作用於推理階段的鍵值快取，不影響模型權重所占用的HBM，也與訓練任務無關。
核心團隊
TurboQuant算法的研究由谷歌研究院主導。相關論文計畫於2026年4月的ICLR大會上發表，第一作者為谷歌研究院的研究科學家Amir Zandieh，通訊作者為谷歌研究院副總裁兼Google Fellow Vahab Mirrokni。合作者包括谷歌研究員Praneeth Kacham、Lars Gottesbüren、Rajesh Jayaram，以及KAIST助理教授Insu Han、紐約大學博士生Majid Daliri等人。
