Flash MLA是DeepSeek於2025年2月24日開源的首個代碼庫，主要針對Hopper GPU最佳化的高效多層注意力機制（MLA）解碼核心，專為處理可變長度序列設計，可提升Transformer模型在長序列任務中的計算效率和性能。其支持DeepSeek-V3.2和MODEL1兩個主要的模型架構。2026年1月，開發者在GitHub平台發現DeepSeek更新了一系列FlashMLA相關代碼，其中提及的“MODEL1”大模型標識符曝光並受到關注。該技術適用於自然語言處理、實時文本生成等場景，在H800 GPU上實現了3000 GB/s的記憶體頻寬和580 TFLOPS的計算性能。Flash MLA的核心設計包括動態記憶體分配機制和並行解碼策略，可減少冗餘計算並提升吞吐量，尤其適用於大語言模型的推理任務。在H800 GPU上，Flash MLA較傳統方法提升約40%的推理速度，使其能夠支持實時生成任務，如聊天機器人回響和長文本續寫。此次開源是DeepSeek“開源周”計畫的一部分，該計畫以每日解鎖的形式逐步公開5個代碼庫，Flash MLA為首個開源項目。
基本介紹
- 開發者：DeepSeek
- 首發時間：2025年2月24日
- 最佳化架構：Hopper GPU
- 生產狀態：已投入套用
- 記憶體頻寬：3000 GB/s（H800）
- 開源計畫：5個代碼庫
開源背景,技術特點,性能表現,套用場景,社區反響,
開源背景
2025年2月24日，DeepSeek啟動“開源周”，計畫以每日解鎖的形式逐步公開5個代碼庫，Flash MLA為首個開源項目。
2026年1月20日，恰逢DeepSeek-R1模型發布一周年，有開發者在GitHub平台發現DeepSeek更新了一系列FlashMLA相關代碼。
此次更新中，代碼多處提及“MODEL1”大模型標識符，FlashMLA支持MODEL1架構。
技術特點
Flash MLA通過最佳化Hopper GPU的記憶體訪問和計算流程，顯著提高可變長度序列的處理效率。其核心設計包括動態記憶體分配機制和並行解碼策略，可減少冗餘計算並提升吞吐量，尤其適用於大語言模型的推理任務。
FlashMLA支持兩個主要的模型架構：DeepSeek-V3.2和MODEL1。據2026年1月的技術人士推測，MODEL1對應一款採用全新架構的AI模型，其核心在鍵值（KV）快取布局、稀疏性處理方式以及FP8數據格式解碼支持等環節進行了最佳化調整，針對性解決了模型運行中的記憶體占用與計算效率問題。
據推測，MODEL1很可能是一個高效推理模型，相比V3.2，記憶體占用更低，適合邊緣設備或成本敏感場景；它也可能是一個長序列專家，針對16K+序列最佳化，適合文檔理解、代碼分析等長上下文任務。
MODEL1的硬體實現跨越多個GPU架構，在英偉達H100/H200（SM90架構）上有兩個版本：model1_persistent_h64.cu用於64頭配置，model1_persistent_h128.cu用於128頭配置，在最新的B200（SM100架構）上有專門的Head64核心實現，且SM100的Head128實現僅支持MODEL1。
性能表現
在H800 GPU上，Flash MLA實現了3000 GB/s的記憶體頻寬和580 TFLOPS的計算性能，較傳統方法提升約40%的推理速度。這一表現使其能夠支持實時生成任務，如聊天機器人回響和長文本續寫。
套用場景
- 實時生成任務：適用於聊天機器人、文本生成等實時生成任務
- 工業部署：可在生產環境中用於高並發AI服務
- 模型架構支持：支持多種模型架構
- 針對高效推理部署：硬體實現可跨越多個GPU架構，適用於多種配置的高效推理場景
- 針對長上下文處理：其可變長度序列最佳化設計適用於文檔理解、代碼分析等長上下文任務
社區反響
截至2025年2月24日，Flash MLA在開源社區中因性能優勢和易用性獲得關注，有開發者認為其有助於提升推理效率。2026年1月，DeepSeek新模型曝光，搭載MODEL1全新架構，並更新了FlashMLA相關代碼，引發行業廣泛關注，進一步增強了社區對Flash MLA技術的討論。據技術人士推測，MODEL1對應一款採用全新架構的AI模型，其在鍵值快取布局、稀疏性處理方式以及FP8數據格式解碼支持等環節進行了最佳化調整，針對性解決了模型運行中的記憶體占用與計算效率問題。
