DINOv3

DINOv3

DINOv3是Meta推出的視覺基礎模型。

DINOv3取得突破性性能的核心在於其創新的自監督學習技術,這些技術徹底擺脫了對標註數據的依賴,大幅降低了訓練所需的時間與資源,使得訓練數據擴展至17億張圖像,模型參數規模擴展至70億。這種無標籤方法適用於標籤稀缺、標註成本高昂甚至不可能獲取標註的套用場景。

2025年8月15日,Meta正式推出並開源了DINOv3,一款通用的、SOTA級的視覺基礎模型,同樣採用了自監督學習訓練,能夠生成更高質量的高解析度視覺特徵。

基本介紹

  • 外文名:DINOv3
  • 所屬公司 :Meta
  • 產品類型:視覺基礎模型
功能配置,性能參數,套用,發展歷史,

功能配置

DINOv3首次實現:一個單一的凍結視覺骨幹網路在多個長期存在的密集預測任務(如目標檢測和語義分割)中超越了專業解決方案。
DINOv3取得突破性性能的核心在於其創新的自監督學習技術,這些技術徹底擺脫了對標註數據的依賴,大幅降低了訓練所需的時間與資源,使得訓練數據擴展至17億張圖像,模型參數規模擴展至70億。這種無標籤方法適用於標籤稀缺、標註成本高昂甚至不可能獲取標註的套用場景。
例如,在2026年1月10日由清華大學等機構研究人員提出的Co2S(協同指導與協同融合)智慧型分析系統中,DINOv3模型被用作“局部細節老師”,負責捕捉衛星圖像中的精細結構、紋理變化和邊緣輪廓特徵,與基於CLIP的“全局語義老師”協同工作,通過異構雙模型協作顯著提升了在標註數據稀少場景下的遙感圖像識別準確率。

性能參數

DINOv3 實現了一個新的里程碑:首次證明自監督學習(SSL)模型在廣泛任務上能夠超越弱監督模型。儘管前代 DINO 模型已在語義分割、單目深度估計等密集預測任務中取得顯著領先,DINOv3 的表現更勝一籌。
DINOv3 在多個圖像分類基準上達到了與最新強大模型(如 SigLIP 2 和 Perception Encoder)相當或更優的性能,同時在密集預測任務中顯著擴大了性能差距。
DINOv3 基於突破性的 DINO 算法構建而成,無需任何元數據輸入,所需訓練計算量僅為以往方法的一小部分,卻依然能夠產出表現卓越的視覺基礎模型。
DINOv3 中引入的一系列新改進,包括全新的 Gram Anchoring 策略,有效緩解了密集特徵的坍縮問題,相比 DINOv2 擁有更出色、更加乾淨的高解析度密集特徵圖;引入了旋轉位置編碼 RoPE,避免了固定位置編碼的限制,能夠天然適應不同解析度的輸入等。
這些新的改進使其在多個高競爭性的下游任務中(如目標檢測)取得了當前 SOTA 性能,即使在「凍結權重」這一嚴苛限制條件下也是如此。這意味著研究人員和開發者無需對模型進行針對性的微調,從而大大提高了模型在更廣泛場景中的可用性和套用效率。
從數據整理(無標籤原始圖像、平衡的圖像數據)、預訓練(大規模自監督學習模型)、Gram Anchoring(改進的局部特徵)、高解析度微調(適用於高解析度推理)和模型蒸餾(涵蓋多種模型規模)。
DINOv3 的一大亮點,是相比於已有模型在高解析度圖像以及密集圖像特徵上的進步,顯著改善了 DINOv2 時期的痛點。DINOv3 是在其前代 DINOv2 的基礎上構建的,模型規模擴大了 7 倍,訓練數據集擴大了 12 倍。為展現模型的通用性,Meta 在 15 個不同的視覺任務和超過 60 個基準測試上進行了評估。DINOv3 的視覺骨幹模型在所有密集預測任務中表現尤為出色,展現出對場景布局與物理結構的深刻理解能力。
DINOv3 擴展至 70 億參數規模,展現了自監督學習(SSL)的全部潛力。然而,對於許多下游套用而言,70 億參數的模型並不現實。基於社區反饋,Meta 構建了一個涵蓋不同推理計算需求的模型家族,以便支持研究人員和開發者在各種使用場景中進行部署。
通過將 ViT-7B 模型進行蒸餾,Meta 得到了一系列更小但性能依舊出色的模型變體,如 ViT-B 和 ViT-L,使得 DINOv3 在多個評估任務中全面超越了同類的基於 CLIP 的模型。
此外,Meta 還推出了一系列蒸餾自 ViT-7B 的 ConvNeXt 架構模型(T、S、B、L 版本),它們能夠滿足不同的計算資源約束需求。與此同時,Meta 也將完整的蒸餾流程管線開源,以便社區在此基礎上進一步開發與創新。

套用

在衛星與航空影像領域,數據體量龐大且結構複雜,人工標註難度較高。DINOv3有助於將這些數據集用於訓練通用的視覺模型,其輸出特徵可用於環境監測、城市規劃和災害回響等多個領域。
DINOv3的通用性與高效性使其適合用於此類部署。NASA噴氣推進實驗室(JPL)曾展示了基於其前代模型DINOv2構建的火星探索機器人,該機器人能夠執行多個視覺任務。
DINOv3已被套用於實際項目中。例如,世界資源研究所(WRI)使用該模型分析衛星圖像,以監測森林損失和土地利用變化。DINOv3在精度上的改進有助於自動化氣候金融支付流程,通過對生態修復成果進行更精確的驗證,來降低交易成本並加速資金髮放。
與DINOv2相比,DINOv3在使用衛星與航空影像訓練後,可將特定區域樹冠高度測量的平均誤差從4.1米降低至1.2米。這使得相關機構能夠更高效地擴大對農戶與自然保護項目的支持規模。
在半監督遙感圖像分析中,DINOv3因其對局部細節的捕捉能力而被用作核心模型。例如,清華大學等機構提出的Co2S智慧型分析框架將DINOv3作為“局部細節老師”與CLIP模型結合使用,提升了在標註樣本較少情況下的地物識別準確率。這種方法降低了人工標註的依賴,有助於實現高效的自動化分析。

發展歷史

2025年8月15日,Meta正式推出並開源了DINOv3,一款通用的、SOTA級的視覺基礎模型,同樣採用了自監督學習訓練,能夠生成更高質量的高解析度視覺特徵。

相關詞條

熱門詞條

聯絡我們