發展歷史
2026開年未滿一個月,
DeepSeek已發布兩篇創始人
梁文鋒署名的論文,包括元旦的
mHC架構論文和月中的
Engram論文。隨後,2026年1月27日,DeepSeek發布全新
DeepSeek-OCR2模型,該模型是對其前代DeepSeek-OCR的升級。同日,DeepSeek團隊發布了題為《DeepSeek-OCR 2: Visual Causal Flow》的論文並開源了該模型。該模型採用
DeepEncoder V2架構,其設計旨在使視覺編碼從固定掃描轉向語義推理。具體而言,主要改進包括將原本基於CLIP的編碼器替換為輕量級語言模型(Qwen2-500M),並引入了具有因果注意力機制的「因果流查詢」,使編碼器能夠根據圖像語義動態重排視覺Token。在OmniDocBench v1.5評測中,其綜合得分為91.09%,較前代提升了3.73%。模型僅需256到1120個視覺Token即可覆蓋複雜的文檔頁面,這有助於降低下游LLM的計算開銷。在實際生產環境中,其識別結果的重複率相比前代有所下降,線上用戶日誌圖像中的重複率從6.25%降至4.17%。此外,閱讀順序(R-order)的編輯距離(ED)也從0.085顯著降低至0.057。此外,在相似的視覺標記預算下,其文檔解析的編輯距離與Gemini-3 Pro相比存在差異。
產品簡介
DeepSeek-OCR 2採用
DeepEncoder V2方法,該方法使AI能夠根據圖像的含義動態重排圖像部分,而非僅進行從左到右的掃描。該模型的核心創新在於提出“視覺因果流”機制,使模型不再機械地按像素順序處理圖像,而是根據語義和邏輯關係動態組織視覺信息。該模型採用的DeepEncoder V2架構,實現了視覺編碼從固定掃描向語義推理的轉變。具體而言,DeepEncoder V2引入了因果流查詢(causal queries),通過內容感知的方式對視覺標記進行重排序與信息蒸餾,形成編碼器內部語義排序和LLM解碼器自回歸推理的兩級因果推理過程。在視覺編碼階段,模型引入語義與因果感知能力,通過改進的視覺編碼器對視覺單元之間的依賴關係進行建模,動態重排視覺token並配合可重組的位置編碼,形成更接近人類閱讀習慣的“理解路徑”。這種設計使編碼器能夠根據圖像語義動態重排視覺Token。
在維持較高數據壓縮效率的同時,模型使用256到1120個視覺Token即可覆蓋複雜的文檔頁面,降低了下游LLM的計算開銷。在相似的視覺token預算(1120)下,其文檔解析的編輯距離(0.100)低於Gemini-3 Pro(0.115)。在OmniDocBench v1.5評測中,其綜合得分為91.09%,較前代提升了3.73%。實驗表明,視覺因果流機制在表格解析、多欄文檔理解和公式識別等任務中,閱讀順序(R-order)的編輯距離(ED)從0.085降至0.057。模型的訓練分為三個階段:編碼器預訓練、查詢增強和解碼器專業化,這一過程旨在逐步獲得並強化特徵提取、token重排序及下游任務的專業化能力。該模型在文本密度超高的報紙類文檔上識別效果相對較弱,團隊分析認為,視覺token上限和訓練數據不足是識別效果較弱的原因。後續可通過增加局部裁剪數量或提供更多訓練樣本來改善。
技術意義
DeepSeek-OCR2的發布涉及模型架構的探索。該模型引入了
DeepEncoder V2架構,使視覺編碼從固定掃描轉向
語義推理。其採用的DeepEncoder V2架構通過因果流查詢對視覺標記進行語義重排序,使模型能夠理解文檔結構並按順序閱讀,為新型視覺語言模型架構提供了研究範例。實驗結果顯示,該機制在表格解析、多欄文檔理解和公式識別等任務中表現較好,相較於前代DeepSeek-OCR,整體性能提升 3.73%,閱讀順序的編輯距離從0.085降至0.057。該模型可作為OCR工具,也能用於生成預訓練數據,服務於
大語言模型的訓練。該架構為構建統一的全模態編碼器提供了路徑,是向原生多模態模型邁出的探索。
光學字元識別是大模型時代具有實用價值的視覺任務之一,未來相關架構可能持續最佳化並拓展至更多場景,探索多模態智慧型在視覺理解中的潛力。
該模型架構進行了工程驗證。2026年1月,在華為昇騰910B2 NPU的部署實踐中,通過KernelCAT AI Agent的自動化最佳化,DeepSeek-OCR 2解決了版本依賴問題,推理吞吐量有所提升,適配周期縮短。