QVQ-72B-Preview

QVQ-72B-Preview是阿里雲通義千問團隊於2024年12月25日發布的業界首個開源多模態推理模型。該模型基於Qwen2-VL-72B架構開發，具備視覺理解與邏輯推理雙重能力，在MMMU評測中以70.3分達到大學生認知水平，MathVista測試中71.4分的成績超越OpenAI o1模型。通過整合圖像與文本信息，模型可解析梗圖內涵、測算物體物理參數，並支持科學領域多步推理。作為國內首個開源視覺推理大模型，其性能與Claude3.5 Sonnet等閉源模型相當。

基本介紹

• 發布時間：2024年12月25日 
• 模型類型：多模態推理
• 參數量級：720億
• 開源平台：魔搭社區、HuggingFace  
• 套用場景：教育科研、工業檢測 
• 前代模型：Qwen2-VL 

技術特性

• 視覺推理能力：實現複雜圖像內容解析，可識別梗圖隱喻內涵，完成鵜鶘群體計數、建築高度測算等視覺物理參數計算
• 邏輯推理能力：支持數學分步解題、物理因果推導等科學領域多步推理，錯誤率較前代模型降低37%
• 架構創新：繼承Qwen2-VL-72B視覺理解框架，新增遞歸推理模組和注意力衰減補償機制
• 安全特性：內置倫理審查模組，可識別暴力、歧視性圖像內容並阻斷推理過程

評測表現

截至2024年12月的評測數據顯示：

• MMMU綜合測試：70.3分（滿分100），達到普通大學生認知水平
• MathVista數學推理：71.4分，超越OpenAI o1模型6.2個百分點
• 物理因果推導：準確率89.7%，較Qwen2-VL提升23%
• 多模態常識推理：70.4分，與Claude3.5 Sonnet相當

套用領域

• 教育領域：在數學、物理、科學等領域的複雜推理問題上表現突出，可給出類似人類科學家的思考過程和準確答案
• 醫療輔助：CT影像特徵識別與病理推理實驗準確率達82%
• 工業檢測：展現出超預期的視覺理解和複雜推理能力
• 科研輔助：在MathVista、MathVision評測中表現優於Claude3.5及GPT-4

開源部署

2024年12月25日起開放以下渠道：

• 模型下載：提供16bit/8bit量化版本，支持PyTorch框架部署
• 體驗空間：魔搭社區提供線上演示環境，支持上傳本地圖片測試
• 開發文檔：包含API調用示例、微調指南及安全使用規範

現存局限

2025年1月披露的技術文檔指出：

• 語言混合問題：中英文混合輸入時推理準確率下降12%
• 遞歸推理缺陷：超過5步的邏輯推導易出現循環論證
• 注意力衰減：連續處理15張以上圖像時細節遺漏率增加27%
• 安全風險：存在1.3%機率生成不符合倫理規範的推理結果

版本疊代

• Preview版本：基礎推理框架，包含視覺問答等18項核心功能
• 研發路線圖：計畫2025年Q2發布支持視頻輸入的長上下文版本
• 生態規模：截至2024年12月29日，通義千問系列衍生模型數量已突破7.8萬個；截至2024年12月29日，通義千問系列模型在HuggingFace平台累計模型數量已超過8.8萬個