Gemma 3

Gemma 3是谷歌於2025年3月12日發布的開源人工智慧模型，提供1B、4B、12B和27B四種參數規模。該模型支持文本、圖像及短視頻的多模態處理能力，覆蓋超過35種語言的開箱即用支持，並在單GPU/TPU環境下展現出超越Llama-405B等大模型的性能表現。通過量化最佳化技術，其27B版本顯存需求從54GB降至14.1GB，顯著降低部署門檻。2025年5月發布的Gemma 3n版本進一步擴展至移動端多模態套用，支持2GB記憶體設備本地運行。

基本介紹

• 模型類別：多模態大模型
• 發布時間：2025年3月12日
• 開發公司：Google DeepMind
• 核心參數：1B/4B/12B/27B
• 程式語言：Python/C++
• 開源狀態：Apache 2.0協定

技術特性

支持128K tokens上下文視窗，可處理法律文本分析和代碼理解等長序列任務。通過集成SigLIP視覺編碼器實現圖像解析，最大支持896x896解析度輸入，圖像token壓縮效率提升40%。採用5:1局部-全局注意力機制，在Transformer架構中交替使用不同注意力範圍，節省30%記憶體占用。

量化最佳化

2025年4月18日發布的QAT最佳化版引入int4量化技術：

• 27B參數模型顯存需求從54GB降至14.1GB
• 12B版本顯存占用減少72%至6.6GB
• 1B模型僅需0.5GB顯存即可運行

該技術通過訓練時模擬量化過程保留模型精度，在RTX 3090顯示卡上實現27B模型的實時回響。

多模態擴展

2025年5月21日推出的Gemma 3n端側版本新增特性：

• 音頻處理模組支持語音指令識別
• 視頻解析能力達15FPS@720p
• 多模態融合推理延遲低於300ms（驍龍8 Gen4平台）
• 本地化隱私保護架構確保用戶數據不出設備

性能表現

在LMArena評估體系中：

• 人類偏好評估得分1339 ELO，超越DeepSeek V3（1312）和o3-mini（1305）
• MMLU-Pro測試準確率達67.5%，數學推理得分提升33-45分
• LiveCodeBench編程任務完成率29.7%
• 多語言翻譯BLEU分數達42.7（中英互譯）

部署方案

提供三種主流部署方式：

• Hugging Face Transformers原生接口支持
• Apple Silicon設備專用MLX框架最佳化
• llama.cpp適配方案支持4GB記憶體設備運行27B模型
  開發者可通過8-bit量化在RTX 4060筆記本實現27B模型實時對話，推理速度達18 tokens/秒。

行業影響

作為首個單GPU運行的27B級多模態模型，其技術突破包括：

• 推動邊緣計算設備AI套用落地
• 降低學術研究硬體門檻60%
• 開源生態衍生超過6萬個微調模型
• 促使行業加速多模態技術標準化進程

模型發布後三個月內，GitHub相關項目增長320%，在醫療影像分析和工業質檢領域產生23個商業化套用案例。

主要功能

Gemma 3 模型專為開發者設計，旨在支持他們構建能夠在多種設備上運行的人工智慧套用，無論是手機還是工作站，均可實現無縫運行。該模型支持超過35種語言，並具備分析文本、圖像及短視頻的能力。

此外，谷歌還推出了基於Gemma 3基礎的4B圖像安全檢查器ShieldGemma 2。據公司介紹，ShieldGemma 2為圖像安全提供了現成的解決方案，可輸出三類安全標籤——危險內容、色情內容和暴力內容。

谷歌為回響用戶需求，致力於讓 Gemma 3 的強大性能適配普通硬體。量化技術是關鍵，通過降低模型參數的數值精度（如從 BF16 的 16 位降至 int4 的 4 位），類似圖像壓縮減少顏色數量，大幅減少數據存儲量。以 int4 量化為例，Gemma 3 27B 顯存需求從 54GB 銳減至 14.1GB，Gemma 3 12B 則從 24GB 降至 6.6GB；Gemma 3 1B 僅需 0.5GB 顯存。