RoboScape

RoboScape是由清華大學與Manifold AI合作提出的一種物理感知的具身世界模型,於2025年6月發表。該模型通過多任務聯合訓練框架,將RGB視頻生成、時間深度預測和自適應關鍵點動態學習統一起來,旨在提升生成視頻的物理合理性。

該模型的研究論文被NeurIPS 2025收錄為Spotlight論文。研究團隊發布了不同參數規模的版本,包括RoboScape-S、RoboScape-M和RoboScape-L。其生成的數據可用於機器人策略訓練,模型本身也可作為策略評估器使用。

背景與提出,模型架構,數據處理,版本與規模,局限性與未來方向,榮譽與認可,相關模型,

背景與提出

RoboScape是由清華大學與Manifold AI合作提出的一種物理感知具身世界模型,旨在解決現有模型在機器人互動場景中物理一致性不足的問題,以提升生成視頻的視覺保真度與物理合理性。其提出的背景在於,當時的具身世界模型在模擬機器人互動,特別是接觸豐富的場景時,對三維幾何和運動動力學的物理感知能力有限,導致生成的視頻常出現3D幾何失真、運動不合理等現象。該模型由清華大學的研究者尚宇、湯銀州、金磊、高晨、李勇與Manifold AI的研究者張鑫、吳偉共同提出,相關論文《RoboScape: Physics-informed Embodied World Model》於2025年在NeurIPS(神經信息處理系統大會)上發表。RoboScape的提出為構建更高效的物理感知世界模型以推進具身智慧型研究提供了新的思路。

模型架構

RoboScape採用自回歸Transformer框架,其核心架構設計為“雙腦並行”結構:一個分支負責生成視覺逼真、細節豐富的RGB圖像,另一個分支則專門處理深度信息,以增強生成視頻的三維幾何一致性。在此雙分支系統的基礎上,模型集成了關鍵點動態學習模組,通過採樣高動態區域的關鍵點並維護其時間一致性,隱式編碼物體的材質屬性和運動規律。整個模型通過多任務聯合最佳化的框架進行訓練。
在具體實現上,模型以空間-時間Transformer塊作為基礎組件。對於深度信息的融合,採用了分層融合策略。關鍵點的選擇具有動態性。

數據處理

RoboScape基於AGIBOT-World數據集構建了包含物理先驗標註的多模態數據集。數據處理管道包括深度生成、關鍵點跟蹤、視頻切片、片段過濾和分類等步驟,旨在確保訓練數據的高質量和多樣性。在數據預處理中採用了curriculum learning策略。

版本與規模

研究團隊測試了三個不同大小的版本:RoboScape-S(3400萬參數)、RoboScape-M(1.31億參數)和RoboScape-L(5.44億參數)。實驗結果顯示清晰的規模效應,隨著模型參數量的增加,所有評估指標都呈現出持續的改善趨勢。在數據規模的研究中,團隊使用不同大小的訓練集(如100萬、300萬和600萬個視頻片段)訓練模型,結果顯示使用更大訓練集可提升模型性能。

局限性與未來方向

RoboScape當前主要關注相對簡單的桌面操作任務。在計算效率方面,其雙分支架構和關鍵點學習雖然提高了生成質量,但也增加了計算開銷。數據依賴性仍然是一個需要解決的問題,泛化能力的提升也是一個關鍵挑戰。
如何將這種世界模型更好地集成到端到端的機器人學習系統中,實現從感知、規劃到控制的全流程最佳化,也是一個值得探索的方向。

榮譽與認可

其核心論文《RoboScape: Physics-informed Embodied World Model》於2025年在人工智慧頂級會議NeurIPS(神經信息處理系統大會)上發表並獲選為Spotlight論文,該工作被NeurIPS會議收錄。
在權威評估基準WorldScore中,RoboScape取得了較高的評分。
基於RoboScape等一系列世界模型的研究,其研發團隊Manifold AI(流形空間)於2026年1月獲得融資,顯示出業界對該技術方向的關注。

相關模型

RoboScape是WorldScape系列世界模型的一部分。該系列還包括用於無人機的AirScape和用於駕駛的DriveScape。這些模型已發表在國際頂級會議上,其中RoboScape於NeurIPS 2025發表,AirScape於ACM MM 2025發表,DriveScape於CVPR 2025發表。此外,基於RoboScape的拓展框架RoboScape-R被提出,作為一個通用的世界模型強化學習訓練環境。

相關詞條

熱門詞條

聯絡我們