團隊概況
MiMo團隊是小米公司旗下專注於大模型研發的核心團隊,又稱小米大模型Core團隊。該團隊專注於推理能力,致力於推動AI從語言理解向物理世界互動的跨越。團隊負責人為
羅福莉,她於2025年11月加入小米。團隊文化強調研究、產品與工程的結合。
在技術成果方面,團隊於2025年12月發布了MiMo-V2-Flash模型,該模型在部分代碼和Agent測評基準測試中排名靠前。2026年2月,團隊推出了面向Agent時代的混合稀疏注意力架構HySparse,該架構降低了KV Cache的存儲與計算開銷。團隊的研究方向包括AI與物理世界的互動,並通過開源方式發布其成果。
團隊沿革
2025年4月,
小米宣布全面擁抱大模型,組建AI大模型團隊(即
MiMo團隊前身),並開源首個推理大模型
Xiaomi MiMo。小米大模型團隊在成立之初就已擁有6500張GPU資源,並計畫搭建萬卡集群以加大對AI大模型的投入力度。
2026年2月7日,MiMo團隊推出面向Agent時代的混合稀疏注意力架構HySparse,旨在實現超長上下文的高效建模。
技術特色
MiMo團隊的技術研發以追求極致推理效率與低成本高速度為核心目標,而非單純堆砌參數規模。其技術特色主要體現在模型架構創新、訓練方法最佳化以及面向物理世界互動的套用設計上。
團隊在模型架構上進行了創新,例如採用了Hybrid Sliding Window Attention(混合滑動視窗注意力機制)以兼顧長上下文建模的效率與效果。最新的研究成果HySparse(混合稀疏注意力架構)通過極少的全注意力層提供全局信息,其餘層復用該信息,在實驗中顯著降低了KV Cache存儲並提升了長上下文建模效率。在推理加速方面,團隊引入了Multi-Token Prediction(MTP,多令牌預測)技術,通過並行token驗證實現了推理速度的提升。為提高強化學習訓練的穩定性,團隊提出了Multi-Teacher On-Policy Distillation(MOPD)後訓練範式,能以簡單快速的方式集成多個專家模型的能力。
這些技術創新共同服務於MiMo團隊“讓智慧型從語言邁向物理世界”的願景。模型設計支持端側部署,致力於賦能汽車座艙決策、智慧型家居主動服務等真實場景。
團隊理念
MiMo團隊的核心理念由其負責人羅福莉在公開演講及發言中系統闡述,旨在定義團隊的研究方向、方法論與價值觀。
團隊以“全力奔赴心目中的AGI”為願景,並認為“智慧型終將從語言邁向物理世界”。這一理念指導團隊致力於推動AI從語言理解向物理世界互動的跨越,構建能夠理解並作用於真實世界的智慧型體。
在技術路徑上,團隊主張讓大模型回到“演化課堂”,補全其跳過的關鍵學習步驟,強調與物理世界的多模態互動是AI進化的下一個起點。團隊認為,在大模型的能力競爭中,算力和數據並非最終的護城河,“而是科學的研究文化與方法,是將未知問題結合模型優勢轉化為可用產品的能力”。
團隊堅信開源的價值,認為“開源是實現
AGI的普惠化,是確保所有人類的智慧共同進化的唯一路徑”。這一信仰推動團隊將包括
MiMo-V2-Flash在內的系列模型全面開源,旨在通過分散式協作加速技術進化。
團隊影響
MiMo團隊作為小米AI大模型研發的核心力量,其工作對小米內部及外部行業均產生了影響。在技術影響力方面,團隊研發的MiMo-V2-Flash模型在代碼和Agent測評基準測試中表現較好,在部分評測基準上的結果超過了DeepSeek V3.2 和K2-Thinking,同時模型參數量相對較少。該模型在相近性能水平的模型中,在資源消耗和運行速度方面具有一定特點。
在支撐公司戰略方面,團隊在AI大模型和套用方面取得了進展。團隊研發的系列模型為小米的“人車家全生態”戰略提供了AI能力支撐。此外,團隊通過開源系列模型,如
MiMo-V2-Flash、
MiMo-Embodied等,並秉持開源加速技術進化的理念,推動了相關技術領域的進步。