Groq 3 LPX 機架

Groq 3 LPX機架是英偉達在GTC 2026大會上發布的一款AI推理加速機架系統,定位為Vera Rubin AI超級計算機平台的推理加速器。該機架專為滿足智慧型體(Agentic AI)系統對低延遲和大上下文的需求而設計。

Groq 3 LPX機架採用全液冷設計,並基於MGX基礎設施構建。其包含256個LPU處理器,提供總計128GB的片上SRAM和640 TB/s的擴展頻寬。當與Vera Rubin NVL72協同部署時,通過聯合計算能顯著提升解碼速度。英偉達表示,LPX與Vera Rubin平台結合後,每兆瓦功耗的推理吞吐量最高可提升35倍。該機架預計於2026年下半年開始出貨。

基本介紹

  • 中文名:Groq 3 LPX 機架
  • 上市時間:2026年下半年
產品發布,技術規格,平台定位與協同,產品沿革,市場反響,

產品發布

Groq 3 LPX機架由英偉達於2026年3月(當地時間)在GTC 2026主題演講上正式發布。此次發布基於英偉達在2025年底通過戰略授權並深度集成Groq LPU架構的技術背景,是英偉達整合Groq技術後推出的產品。該產品定位為Vera Rubin AI超級計算機平台的專用推理加速器機架,旨在滿足智慧型體(Agentic AI)系統對低延遲和大上下文的需求。它與Vera Rubin NVL72、Vera CPU等機架共同構成完整的Vera Rubin平台。據悉,該機架預計將於2026年下半年開始提供或出貨。

技術規格

Groq 3 LPX機架包含256個Groq 3 (LP30) LPU處理器。每個LPU晶片集成500MB SRAM,整個機架總計128GB片上SRAM。該SRAM可提供高達40 PB/s的頻寬。機架級專用擴展接口頻寬為640 TB/s。每個LPU晶片通過96條112Gbps的C2C(Chip-to-Chip)鏈路連線至系統其他部分。單個計算托盤可通過結構擴展邏輯和頭節點CPU擴展合計384GB的DRAM記憶體,作為片上SRAM的後援支持。機架採用全液冷架構,並基於MGX基礎設施構建。

平台定位與協同

Groq 3 LPX機架是英偉達Vera Rubin AI超級計算機平台的五款機架之一,定位為該平台的AI推理加速器。該機架與Vera Rubin NVL72 GPU機架協同工作,Rubin GPU和LPU通過共同計算AI模型每一層來提升解碼速度,從而為每個輸出token提供計算。它專為滿足智慧型體系統對低延遲和大上下文的需求而最佳化。與Vera Rubin平台結合後,每兆瓦功耗的推理吞吐量提升35倍,並提升了運行萬億參數模型的能力。技術集成方面,通過NVFusion技術無縫嵌入CUDA生態,並採用解耦式架構實現權重從GPU到LPU的快速調度。

產品沿革

英偉達收購了開發Groq晶片的團隊,並將其技術與Vera Rubin深度整合。LPU晶片將由三星代工。新架構機櫃預計於2026年第四季度開始量產,2026年與2027年機櫃出貨量分別約為300至500個,以及15000至20000個。

市場反響

Groq 3 LPX機架於發布時,被部分觀點視為加速計算領域的一項進展。該機架設計用於滿足agentic系統對低延遲和大上下文的需求。LPU的確定性算力旨在提供較為穩定的推理加速。該產品屬於推理基礎設施類別。

相關詞條

熱門詞條

聯絡我們