Gemma 4 31B Dense

Gemma 431B Dense是Google DeepMind於2026年4月2日發布的Gemma 4系列開源大語言模型之一，是一個擁有310億參數的稠密模型。該系列還包括E2B、E4B和26B MoE等規格。

該模型在Arena AI文本排行榜中位列開源模型前三，其MMLU Pro得分達85.2%，在AIME 2026測試中得分達89.2%。模型採用Apache 2.0協定，其權重可完整放入單張80GB的NVIDIA H100 GPU顯存中運行。它支持最高256K的上下文視窗，面向複雜推理任務進行了最佳化，並增強了代碼與AI Agent能力。

基本介紹

• 外文名：Gemma 4 31B Dense

發布與背景

2026年4月2日，Google DeepMind正式推出Gemma 4系列開源大語言模型。該系列包括E2B、E4B、26B MoE和31B Dense四個版本。其中，Gemma 4 31B Dense是一款中量級稠密模型，旨在在有限的模型參數下實現較高的性能水平。發布後，該模型在Arena AI開源模型排行榜中取得了較高的排名。

此次發布的背景是Google試圖在模型規模與性能效率間開闢新路徑，其核心支撐之一是TurboQuant壓縮算法。相比前代Gemma 3 27B模型，其性能有顯著提升。同時，其權重可完整放入單張80GB的NVIDIA H100 GPU顯存中，實現FP8精度的滿速推理。

此外，Gemma 4全系列採用了商業友好的Apache 2.0開源協定。該模型的發布，旨在為開發者和研究者提供一個在有限計算資源下進行高性能推理的實用工具。

技術規格

Gemma 4 31B Dense是一個310億參數的稠密模型。該模型採用了TurboQuant壓縮算法，能將KV快取壓縮至3比特，在NVIDIA H100 GPU上實現8倍的注意力計算加速，且在核心指標上實現零精度損失。其未量化的bfloat16權重能夠完整放入單張80GB的NVIDIA H100 GPU顯存中，實現FP8精度的滿速推理。該模型開箱即支持NVIDIA GPU、AMD GPU以及Google Cloud TPU。Gemma 4 31B Dense的上下文視窗最高可擴展至256K。

開源與許可

Gemma 4 全系採用了商業友好的 Apache 2.0 協定。該許可證允許商業使用、自由修改和部署。

部署與支持

開發者可以通過谷歌雲直接訪問這些模型，也可以在Hugging Face、Kaggle和Ollama上獲取模型及其開放權重。谷歌提供了多種推理和微調路徑，包括Hugging Face、LiteRT-LM、vLLM、llama.cpp、MLX、Ollama、NVIDIA NIM 和 NeMo、LM Studio、Unsloth、SGLang、Cactus、Docker、MaxText、Tunix、Keras。雲上部署支持Vertex AI、Cloud Run、GKE、Sovereign Cloud 及 TPU 加速服務。

安全與可靠性

Gemma 4 31B Dense採用了基礎設施安全協定，其設計考慮了安全性與可靠性。