基本介紹
- 外文名：DGX GB300
- 上市時間：2025年第三季度
技術規格,核心硬體,性能提升,網路與互聯,軟體與支持,散熱與設計,能效與密度,產品設計,核心技術,市場與銷售,衍生型號與文化,
技術規格
NVIDIA DGX GB300是一種面向企業的機櫃級AI系統，搭載NVIDIA Grace Blackwell Ultra超級晶片並採用全液冷機櫃設計，用於處理大規模AI訓練與推理工作負載。
核心硬體
DGX GB300系統搭載72顆NVIDIA Blackwell GPU和36顆NVIDIA Grace CPU。其CPU包含2，592個Arm Neoverse V2核心。系統GPU記憶體為20TB，最高頻寬達576 TB/s，總高速記憶體為37TB。在計算性能方面，其FP4張量核心性能為1440 PFLOPS（稀疏）或1080 PFLOPS（密集），FP8/FP6張量核心性能為720 PFLOPS。
性能提升
網路與互聯
系統網路接口包括72個OSFP單連線埠NVIDIA ConnectX-8 VPI，支持800 Gb/s InfiniBand，以及18個雙連線埠NVIDIA BlueField-3 VPI，支持200 Gb/s InfiniBand及乙太網。其交換系統包含9個L1 NVIDIA NVLink交換機，通過第五代NVLink技術連線所有GPU，形成一個共享記憶體空間。
軟體與支持
DGX GB300預裝軟體包括NVIDIA Mission Control、NVIDIA AI Enterprise和NVIDIA DGX OS / Ubuntu。企業支持方面，提供三年標準級硬體與軟體企業支持服務。
散熱與設計
DGX GB300採用完全液冷式機架設計以實現高功耗晶片的散熱。其設計採用“Bianca”方案，單主機板上擁有2顆B300 GPU和1顆Grace CPU。
能效與密度
該系統單位算力功耗降低40%，PUE低於1.08。其單機櫃算力密度達3 PFLOPS。
產品設計
DGX GB300 是一款基於 NVIDIA MGX™ 標準的機架式、完全液冷的 AI 系統。
在核心主機板設計上，為了加快產品部署，其從初期規劃的“Cordelia”方案回歸到了當前 GB200 所使用的“Bianca”設計。Bianca設計是單主機板集成2顆GPU和1顆CPU，而Cordelia設計則是4顆GPU與2顆CPU。Bianca設計雖然犧牲了部分可維護性（如GPU獨立更換），但避免了信號完整性問題並加速了開發進程。
其液冷散熱系統針對高晶片功耗設計，支持高達120千瓦/機架的功率密度，與傳統風冷方案相比，能耗降低約40%。
此外，該系統基於台積電CoWoS3D封裝技術構建，並通過NVLink-C2C互連技術集成了高頻寬記憶體與快速存儲體系。
核心技術
DGX GB300基於NVIDIA Grace Blackwell Ultra超級晶片構建，該系統搭載36顆NVIDIA Grace CPU和72顆NVIDIA Blackwell Ultra GPU，形成異構計算核心。
系統內72顆GPU通過第五代NVLink技術連線，並通過NVLink Switch系統形成共享記憶體空間，實現晶片級高速互聯，雙向頻寬為800GB/s。
DGX GB300集成NVIDIA Quantum-X800 InfiniBand和NVIDIA Spectrum-X乙太網網路，以提升大規模AI數據中心的性能與效率。系統配備72個NVIDIA ConnectX-8 SuperNIC，提供800Gb/s的網路速度。同時，通過NVLink-C2C技術構建了包含20TBHBM與40TB Fast Memory的存儲體系，總高速記憶體為37TB，數據吞吐量為14.4TB/s。
DGX GB300是NVIDIA DGX SuperPOD的核心組件，可擴展至數以萬計的NVIDIA Grace Blackwell Ultra超級晶片，構建AI超級計算機。
相較於上一代DGX GB200，DGX GB300的密集FP4推理性能提升1.5倍，注意力機制效能提升2倍，HBM記憶體容量增加1.5倍，AI算力整體提升1.5倍。其FP4張量核心峰值性能可達1440 PFLOPS（稀疏模式）或1080 PFLOPS（密集模式）。
市場與銷售
NVIDIA於2025年第三季度正式發布DGX GB300，並計畫在2025年底前實現全面量產，計畫於2025年9月開始出貨。2025年7月，雲服務提供商CoreWeave與戴爾科技聯合宣布，首批基於DGX GB300 NVL72系統的雲服務已正式上線，標誌著Blackwell Ultra GPU進入商用階段。DGX GB300系統支持在本地數據中心、主機代管設施或雲端部署。
NVIDIA計畫在2025年出貨約30,000櫃NVL機架。
衍生型號與文化
DGX GB300擁有一個名為DGX Station (GB300)的桌面級衍生型號，旨在將數據中心級AI算力壓縮至桌面供個人開發者使用。首台DGX Station (GB300)由英偉達CEO黃仁勛親自贈予AI研究員安德烈·卡帕西（Andrej Karpathy）。該型號配備748GB統一記憶體和20 PFLOPS的AI性能，支持在本地進行開發，並可將成果無縫遷移至雲端或更大規模集群。為配合此硬體，英偉達向OpenClaw項目貢獻了開源堆疊NVIDIA NemoClaw，以方便開發者部署AI助手。
