2025年3月18日,崑崙萬維宣布開源首款工業級多模態思維鏈推理模型Skywork R1V。該模型通過三階段訓練策略實現文本端推理能力向視覺任務的高效遷移,採用跨模態遷移學習和混合式訓練框架(Iterative SFT+GRPO),在MMMU、MathVista等評測基準中綜合性能達到或超越同級別產品。作為38B參數規模的工業級模型,其開源內容包括模型權重與技術報告,標誌著多模態思考技術進入新階段。
基本介紹
- 開發者:崑崙萬維
- 開源時間:2025年3月18日
- 模型規模:38B參數
- 核心技術:跨模態遷移學習
- 評測基準:MMMU、MathVista
- 開源內容:模型權重/技術報告
技術實現
- 視覺語言表征初始對齊:通過Skywork-VL視覺投影器實現跨模態特徵映射,無需重新訓練基座模型
- 推理能力遷移:將文本端的思維鏈推理能力遷移至視覺模態,建立多模態聯合推理框架
- 模態精準對齊:運用自適應長度思維鏈蒸餾框架(AL-CoTD),通過質量評估與動態控制最佳化推理效率
性能表現
- MMMU基準測試取得69分
- MathVista任務達到67.5分
- 數學推理基準AIME和MATH500分別獲72.0與94.0分綜合性能指標優於DeepSeek-R1等同類模型,部分能力接近Claude 3.5 Sonnet等閉源系統。
行業影響
- 實現視覺與文本推理能力的有機統一
- 驗證跨模態遷移學習在工業場景的可行性
- 為AGI技術發展提供開源實踐路徑
