產品簡介
GB200 NVL4是
英偉達在2024年超級計算大會(SC24)上推出的AI計算平台。作為Grace Blackwell系列的中端選項,它採用單伺服器解決方案形態,集成兩顆Grace CPU和四顆Blackwell GPU。該平台專為高性能計算和人工智慧混合工作負載設計,相比前代GH200 NVL4,其模擬性能提升2.2倍,訓練和推理性能提升1.8倍,並提供高達1.3TB的統一記憶體。GB200 NVL4旨在滿足現代數據中心對高性能、可擴展性和能源效率的需求。
硬體配置
GB200 NVL4是一個集成了CPU與GPU的AI計算平台,其硬體核心包括基於Arm架構的Grace中央處理器(CPU)和基於Blackwell架構的
圖形處理器(GPU),通過高速互聯技術構成一個緊湊的單伺服器解決方案。
平台搭載兩顆基於Arm Neoverse V2架構的
NVIDIA Grace CPU,每顆CPU擁有72個核心,兩顆CPU合計提供144個核心,為通用計算和高性能任務提供強大的處理能力。
平台集成四顆基於Blackwell架構的B200 GPU,這些GPU通過NVLink高速互聯技術相互連線,形成一個4-GPU的NVLink域,專為AI訓練、推理及
高性能計算(
HPC)工作負載提供加速。
GB200 NVL4提供大容量、高頻寬的統一記憶體系統。其記憶體由GPU的HBM3/
HBM3E顯存與CPU的
LPDDR5X記憶體共同構成。總記憶體容量存在不同表述:高達1.3TB的統一/聯合記憶體或一致記憶體;根據具體組件容量計算,四顆Blackwell GPU共提供768GB HBM3記憶體(頻寬達32TB/s),兩顆Grace CPU共提供960GB LPDDR5X記憶體,物理記憶體總容量合計為1.7TB。
在擴展連線方面,每顆Grace CPU下方配備有6個MCIO連線器,提供高速的PCIe連線,用於支持網路接口卡(NIC)、固態硬碟(SSD)以及其他關鍵組件的集成,確保了系統的靈活性和可擴展性。
核心技術
GB200 NVL4的核心技術旨在實現
高性能計算(HPC)與
人工智慧(AI)的融合,通過創新的硬體互連與記憶體架構提供特定的性能。其核心是採用NVLink-C2C互連技術,通過橋接方式直接連線四顆NVIDIA Blackwell GPU與兩顆Grace CPU,實現了CPU與GPU之間的高速、低延遲通信。該平台構建了一個4-GPU NVLink域,為四顆Blackwell GPU提供了較高的內部通信頻寬,最佳化了多GPU協同計算效率。
GB200 NVL4提供了高達1.3TB的統一一致性記憶體空間,將CPU的
LPDDR5X記憶體與GPU的HBM3記憶體池化,便於CPU和GPU高效協同處理數據密集型任務。該平台設計兼容採用液冷散熱設計的NVIDIA MGX™模組化伺服器架構,便於部署於現代高密度數據中心環境。這些核心技術共同作用,使得GB200 NVL4相比前代GH200 NVL4平台,在科學模擬、AI訓練與推理等套用中性能有所提升。
性能表現
相較於上一代GH200 NVL4平台,GB200 NVL4在科學模擬性能上最高提升2.2倍,在AI訓練和推理性能上最高提升1.8倍,部分表述為提升2倍。
該平台專為融合高性能計算(HPC)與人工智慧(AI)的科學計算、科學AI訓練與推理套用進行最佳化。其支持高達1.3TB的一致性記憶體與高記憶體頻寬,適用於氣候模擬、藥物研發、工程仿真等需要高度並行計算與處理海量數據的科學與工程領域。平台針對AI工作負載進行最佳化,支持FP4等數據類型。
功耗與能效
GB200 NVL4平台的典型功耗(
TDP)約為5400W至6000W(約5.4kW至6kW)。相比英偉達早期如DGX-1或HGX-1等系統(功耗約3.5kW),GB200 NVL4在提供更強計算性能的同時,單位性能的能效有所提升。該平台設計注重性能與能源效率的平衡,屬於Grace Blackwell產品系列,適用於中端規模或注重能效的數據中心。
市場定位與產品系列
GB200 NVL4是
英偉達推出的中端平台。它在Grace Blackwell產品系列中定位為中端選項,性能方面處於NVL72和NVL36之下。相較於為大規模部署設計的NVL72,NVL4在架構上更為緊湊,並強調了能源效率。該產品主要面向中型規模或對能源效率有要求的套用場景。其推出是英偉達產品組合更新的一部分,旨在逐步替代舊款NVL平台。
發布與上市
GB200 NVL4平台首次公開亮相於2024年11月在美國舉行的SC24(超級計算大會)上。
根據官方信息,該平台計畫於2025年下半年正式上市。
英偉達宣布,包括技嘉(Giga Computing)、HPE(惠普企業)、微星、華碩、聯想等在內的多家伺服器製造商將成為其合作夥伴,提供基於GB200 NVL4平台的解決方案。HPE Cray是首批宣布支持的廠商之一。
例如,技嘉(Giga Computing)已於2026年1月發布了基於GB200 NVL4平台的水冷AI伺服器XN24-VC0-LA61。