DLLM Agent: See Farther, Run Faster

DLLM Agent: See Farther, Run Faster 是一篇由華為諾亞方舟實驗室、華為先進計算與存儲實驗室、UCL、南洋理工大學、清華大學和北京大學的研究團隊聯合發布的研究論文。

該研究通過嚴格的對照實驗發現，將智慧型體（Agent）的生成範式從自回歸大模型（AR）替換為擴散式大模型（DLLM）後，在準確率持平的情況下，其端到端執行速度平均提升30%以上，在部分複雜任務中可達8倍，且工具調用和互動輪次更少。論文指出，這種優勢源於DLLM在任務規劃中能更早形成全局計畫，減少冗餘路徑。

研究背景與團隊

論文《DLLM Agent: See Farther, Run Faster》由華為諾亞方舟實驗室、華為先進計算與存儲實驗室、UCL、南洋理工大學、清華大學和北京大學的研究團隊聯合完成。

該研究通過嚴格的對照實驗，探究將智慧型體（Agent）的生成範式從傳統的自回歸大模型（AR LLM）更換為擴散式大模型（DLLM）後，對其行為效率產生的影響。

在準確率基本持平的前提下，DLLM Agent端到端執行速度平均提升30%以上，在成功解題的條件下使用更少的互動輪次和工具調用，並展現出更強的規劃能力。

該論文可在arXiv及項目官方頁面獲取。

研究方法與實驗設計

本研究採用了極端公平的對照實驗設計，旨在嚴格孤立“生成範式”這一因素對Agent性能的影響，以排除框架差異、提示工程技巧、數據不一致等干擾因素。

具體實驗設定包括使用同一個Agent框架DeepDiver、同一套工具接口與解析規則。對對比模型使用完全相同的Agent任務進行繼續訓練，並在統一的測試條件下進行評估，控制變數包括上下文長度上限（32K）、最大互動輪數、工具調用上限等。

實驗唯一變化因素是模型背後的生成範式，具體對比的模型為自回歸模型openpangu 7b-v1與擴散大語言模型openpangu diffusion 7b，該DLLM模型由openpangu 7b-v1繼續訓練得到以確保基礎推理能力相似。

通過以上設計，研究團隊得以在完全相同的技術基底上，客觀評估不同生成範式對Agent規劃與執行效率的影響。

核心發現與性能表現

在完全相同的Agent工作流、訓練數據和互動預算下，DLLM Agent展現出顯著的效率優勢。核心發現包括：在準確率基本持平的前提下，DLLM Agent端到端執行速度平均提升30%以上；在成功解題的條件下，DLLM Agent使用更少的互動輪次和工具調用；DLLM展現出更強的規劃能力，表現為更早收斂到正確軌跡、回溯和冗餘更少。這種優勢並非僅來自並行解碼速度，而是體現在Agent級別的規劃與決策行為上。

在BrowseComp-zh基準測試中，DLLM Agent在準確率持平的情況下，平均工具調用次數顯著減少，Agent軌跡平均更短，端到端延遲下降約30%。在一個典型的多約束檢索案例中，DLLM Agent展現出8.18倍於傳統自回歸Agent的端到端執行速度。

技術原理分析

在任務拆解階段，DLLM Planner表現出獨特的兩階段特徵，第一階段並行提取用戶問題中的核心約束，第二階段在全局框架下逐步細化邏輯。這與自回歸模型必須按token順序“邊想邊寫”，早期偏差易導致冗餘規劃形成對比。

在具體的工具調用階段，DLLM將整個工具調用視為一個整體的“動作塊”進行最佳化，先確定調用哪個工具，再並行生成參數與細節，過程中可反覆最佳化。而自回歸Agent的生成過程像不可回頭的流水線，前面token的錯誤難以原地修正。

通過分析擴散過程中Mask Token的熵演化和注意力模式，DLLM的高不確定性集中在決策早期，一旦高層決策形成，後續細節生成收斂速度極快。注意力機制呈現出“全局 → 局部”的協調模式，這與自回歸模型追求token-level局部最優決策形成鮮明對比。要充分發揮DLLM潛力，需要針對Agent場景重新對齊接口與訓練目標，如設計訓推一致的Mask策略。

研究意義與影響

該研究為Agent研究提供了全新視角，表明生成範式本身會深刻塑造Agent的行為方式。論文通過極端公平的對照實驗證明，在準確率基本持平的前提下，僅將底座模型替換為擴散式大語言模型（DLLM），Agent的端到端執行速度平均提升30%以上，在部分複雜任務中甚至達到8倍於傳統自回歸模型（AR）的效率。

DLLM Agent展現出更強的規劃能力，如更早收斂到正確軌跡、回溯和冗餘更少。這啟示研究者，擴散（Diffusion）模型是構建高效Agent的一個全新設計維度，而不僅僅是另一種生成模型。

要充分發揮DLLM在Agent場景的潛力，需針對互動場景重新對齊接口與訓練目標，而非簡單替代AR模型。