Kimi-2506

Kimi-2506是月之暗面(MoonshotAI)於2025年6月發布的開源多模態模型Kimi-VL-A3B-Thinking的升級版本,由MoonViT視覺編碼器、MLP投影器和基於Moonlight的語言模型構成。該模型支持320萬像素圖像處理,在MathVision測試中取得56.9分(提升20.1分),MathVista測試達80.1分(提升8.4分),整體思考長度平均減少20%。

其視覺理解能力在MMBench-EN-v1.1和MMStar測試中分別獲得84.4分與70.4分,單圖處理像素較前代提升四倍。功能覆蓋圖像識別、圖表推理、數學計算、長文檔解析及視頻場景拆分分析,採用增強版Muon最佳化器提升訓練效率,通過權重衰減與分散式實現最佳化記憶體使用。模型語言模組基於Moonlight專家混合架構,經多模態與純文本數據聯合預訓練,支持可變長度序列注意力機制。

基本介紹

  • 軟體名稱:Kimi-2506
  • 軟體平台:月之暗面
模型介紹,發展歷程,主要功能,

模型介紹

Kimi-VL-A3B-Thinking 模型由三個主要部分組成:MoonViT 視覺編碼器、MLP 投影器和語言模型。MoonViT 能夠直接處理不同解析度的圖像,提升了訓練效率。MLP 投影器則起到了視覺特徵與語言模型之間的橋樑作用,確保了兩者的有效結合。而 Kimi 的語言模型則基於 Moonlight,經過大規模的多模態數據和純文本數據的聯合預訓練,增強了模型的語言能力與多模態理解能力。

發展歷程

2025年6月,國內知名大模型平台 “月之暗面” 正式發布了其開源的多模態模型 Kimi-VL-A3B-Thinking 的最新版本 ——Kimi-2506。

主要功能

在性能方面,Kimi-2506展現出了更為出色的智慧型性和節省 token 的能力。在多模態推理的基準測試中,該模型在 MathVision 上取得了56.9的分數,比之前提升了20.1;在 MathVista 上達到了80.1,提升幅度為8.4。其他如 MMMU-Pro 和 MMMU 的得分也有所上升,整體思考長度平均減少了20%,進一步提升了推理效率。
在視覺理解方面,Kimi-2506的能力顯著增強,與之前版本相比,其在常規視覺感知任務上的表現也更為優越。例如,在 MMBench-EN-v1.1和 MMStar 的得分分別為84.4和70.4,顯示出更全面的視覺理解實力。此外,Kimi-2506支持更高解析度的圖像處理,單張圖像的總像素達到320萬,相較前一版本提升了四倍。這使得模型在高解析度感知任務中也取得了可喜的進展。
在套用領域,Kimi-2506在圖像理解、圖表推理、數學計算、OS 智慧型體接地、長 PDF 理解和視頻分析等多個方面展現了出色的表現。它能夠準確識別貓的品種、分析圖表中的語義標籤、解決數字填空題,並能有效處理長文檔的內容。模型還能夠將視頻拆分為多個場景並提供詳細描述。
最佳化方面,Kimi-VL 還採用了增強版的 Muon 最佳化器,通過引入權重衰減和分散式實現,進一步提高了訓練效果與記憶體使用效率,為模型的性能最佳化提供了強有力的支持。

相關詞條

熱門詞條

聯絡我們