Skywork R1V

2025年3月18日,崑崙萬維宣布開源首款工業級多模態思維鏈推理模型Skywork R1V。該模型通過三階段訓練策略實現文本端推理能力向視覺任務的高效遷移,採用跨模態遷移學習和混合式訓練框架(Iterative SFT+GRPO),在MMMU、MathVista等評測基準中綜合性能達到或超越同級別產品。作為38B參數規模的工業級模型,其開源內容包括模型權重與技術報告,標誌著多模態思考技術進入新階段。

基本介紹

  • 開發者:崑崙萬維
  • 開源時間:2025年3月18日
  • 模型規模:38B參數
  • 核心技術:跨模態遷移學習
  • 評測基準:MMMU、MathVista
  • 開源內容:模型權重/技術報告
技術實現,性能表現,行業影響,

技術實現

模型採用三階段創新訓練策略:
  1. 視覺語言表征初始對齊:通過Skywork-VL視覺投影器實現跨模態特徵映射,無需重新訓練基座模型
  2. 推理能力遷移:將文本端的思維鏈推理能力遷移至視覺模態,建立多模態聯合推理框架
  3. 模態精準對齊:運用自適應長度思維鏈蒸餾框架(AL-CoTD),通過質量評估與動態控制最佳化推理效率
混合式訓練策略結合疊代監督微調與GRPO強化學習,動態調整思維鏈長度以提升多模態融合效果。

性能表現

在2025年公開評測中:
  • MMMU基準測試取得69分
  • MathVista任務達到67.5分
  • 數學推理基準AIME和MATH500分別獲72.0與94.0分綜合性能指標優於DeepSeek-R1等同類模型,部分能力接近Claude 3.5 Sonnet等閉源系統。

行業影響

作為國內首個開源的多模態推理工業級模型,其技術突破體現在:
  • 實現視覺與文本推理能力的有機統一
  • 驗證跨模態遷移學習在工業場景的可行性
  • 為AGI技術發展提供開源實踐路徑
該模型被納入崑崙萬維2024-2025年AI技術矩陣,與音樂推理大模型Mureka O1等技術成果形成協同效應。

相關詞條

熱門詞條

聯絡我們