ReconDreamer是由極佳科技、北京大學、理想汽車及中國科學院自動化研究所聯合研發的自動駕駛場景重建技術。該技術旨在解決傳統方法在大幅度相機運動下的渲染質量問題,推動4D動態場景重建技術的實用化。其核心是通過世界模型驅動的線上修復和漸進式數據更新策略,首次實現了平移6米範圍的高精度自由視角渲染。
該技術屬於DriveDreamer系列世界模型的改進之一。它聚焦於解決動態場景重建中大幅動作導致的偽影問題,通過“重建+生成”的範式,從單視角輸入視頻構建逼真的4D世界。
發展歷史,產品設計,主要分類,相關榮譽,其他增益,
發展歷史
ReconDreamer是DriveDreamer系列技術的演進,由極佳科技、北京大學、理想汽車及中國科學院自動化研究所聯合研發。其研究論文《ReconDreamer: Crafting World Models for Driving Scene Reconstruction via Online Restoration》入選了計算機視覺頂會CVPR 2025。該技術旨在解決自動駕駛閉環仿真中,傳統場景重建方法(如NeRF、3D高斯濺射)在大幅度相機運動(如變道、急加速)下產生的渲染偽影問題,其核心創新在於“生成+重建”範式。
基於ReconDreamer的改進工作包括ReconDreamer++和ReconDreamer-RL。
產品設計
ReconDreamer是極佳科技DriveDreamer系列產品的重要組成部分,是其針對自動駕駛閉環仿真推出的4D動態駕駛場景重建技術。其核心設計理念是將“重建”與“生成”兩種範式相結合。
ReconDreamer通過單視角輸入視頻重建並生成逼真的4D動態駕駛場景,尤其擅長補全新視角和遮擋區域。實現這一功能依賴兩個關鍵技術模組:DriveRestorer線上修復模組和漸進式數據更新策略(PDUS)。DriveRestorer通過構建退化幀與正常幀的配對數據集,利用擴散模型對因大幅相機運動(如變道)產生的遠景模糊、天空噪點等偽影區域進行去噪修復,並優先處理問題嚴重區域。漸進式數據更新策略(PDUS)則通過分階段、小步長(如從1.5米開始)逐步擴展新軌跡數據,漸進式地訓練模型,以解決大範圍視角變化(如橫向偏移6米)帶來的數據分布偏移問題。
該設計首次實現了平移6米範圍的高精度自由視角渲染。在定量評估中,ReconDreamer在NTA-IoU、NTL-IoU和FID指標上優於Street Gaussians等基線方法。這為自動駕駛閉環仿真提供了高保真感測器數據生成方案,支持複雜場景(如緊急變道和多車互動)的可靠測試。
主要分類
ReconDreamer++是ReconDreamer的改進版本,旨在解決原版在新視角渲染質量提升時原視角質量下降的問題。其核心改進在於將整個場景解耦為路面、背景、前景、動態物體,以提升幾何一致性;同時,將新軌跡的偏移作為輸入,用以修正高斯球的參數,從而緩解生成的新視角數據與原視角數據之間的差距。該版本在保持原視角質量的同時,進一步提升了新視角(如偏移一個車道)的渲染效果。
ReconDreamer-RL是ReconDreamer技術的一個重要套用擴展。它將ReconDreamer重建生成的世界模型作為強化學習訓練的閉環仿真器,使得智慧型體能夠在重建的虛擬世界中進行模仿學習和強化學習訓練。該技術實現了零實車訓練模型即可完成如博弈變道等複雜駕駛任務,為自動駕駛算法的訓練和驗證提供了高效、安全的仿真環境。
相關榮譽
ReconDreamer的相關研究論文被計算機視覺與模式識別領域的頂級國際會議CVPR 2025收錄。該工作被視為在自動駕駛閉環仿真與動態互動最佳化方向上的突破,解決了傳統開環仿真的數據局限性,為高保真感測器數據生成提供了新方案。
其他增益
ReconDreamer是由極佳科技、北京大學、理想汽車及中國科學院自動化研究所聯合研發的自動駕駛場景重建技術,旨在解決傳統方法在大幅度相機運動下的渲染質量問題。其通過世界模型驅動的線上修復和漸進式數據更新策略,首次實現了平移6米範圍的高精度自由視角渲染,推動了4D動態場景重建技術的實用化。
極佳科技聯合創始人朱政博士指出,ReconDreamer通過“重建-修復”循環聯合最佳化,首次實現了偏移兩個車道(6米)的高質量渲染,效果相比前代方法有顯著提升。
定量分析結果顯示,ReconDreamer在NTA-IoU上相較於基線方法提升了24.87%,在NTL-IoU上提升了6.72%,同時FID降低了29.97%。用戶研究表明,96.88%的用戶認為ReconDreamer在大動作渲染中優於DriveDreamer4D。定性分析顯示,該技術有效消除了遠景模糊和天空噪點,保持了車輛位置和形狀的一致性。
研究團隊指出了該技術當前的局限性,包括依賴預訓練世界模型和3D檢測/高精地圖數據,在無結構化道路或極端天氣場景適應性未驗證,以及PDUS步長和掩碼策略需手動調整。未來計畫探索無監督/自監督方式構建修複數據集以減少標註依賴,最佳化PDUS的自適應調整機制,結合雷射雷達等多模態輸入增強幾何約束,並將方法擴展至交通擁堵、行人密集等更複雜動態環境。
該技術已套用於自動駕駛閉環仿真,據稱可幫助車企將實車評測里程大幅壓縮,推動智駕研發從“跑里程”向“數據-模型閉環”轉變。
