基本介紹
- 中文名:Groq 3 LPX 機架
- 上市時間:2026年下半年
Groq 3 LPX是英偉達發布的機架,這一機架專為智慧型體系統的低延遲和長上下文需求而設計,定位VeraRubin的AI推理加速器。機架設計 Groq 3 LPX機架架構採用全液冷設計,並基於MGX基礎設施構建。其擁 32個1U計算托盤,每個托盤中配備 8顆Groq 3 (LP30)晶片,每顆LPU擁有500MB的片上SRAM。因此,整個Groq 3 LPX機架...
LPX機架是英偉達在GTC 2026大會上發布的AI推理專用機架系統。Groq 3 LPX機架是Vera Rubin AI平台的專用AI推理加速器(機架)。該機架是英偉達以200億美元完成對Groq智慧財產權授權與核心團隊引進後,不到四個月內推出的首款產品化成果。該產品專為滿足智慧型體系統對低延遲和大上下文的需求而設計。該機架於2026年3月在...
在發布會上,Groq 3 LPU與NVIDIA Vera Rubin GPU等產品一同亮相,英偉達通過軟體將兩者優勢結合,首創了“解耦推理”(Disaggregated Inference)架構。同時,英偉達還宣布了搭載256顆Groq 3 LPU的推理伺服器機架Nvidia Groq3LPX,計畫於2026年下半年上市。技術特點 Groq 3 LPU採用確定性數據流架構,晶片上全部集成SRAM...
英偉達正式推出基於 Groq 的新型推理伺服器機架,名為英偉達 Groq 3 LPX,該機架將於今年下半年與Vera Rubin NVL72機架、Vera CPU 機架和 BlueField-4 STX 存儲機架一同上市。機架伺服器 機架式伺服器的外形看來不像計算機,而像交換機,路由器等。機架式伺服器安裝在標準的19英寸機櫃裡面。這種結構的多為功能型...
英偉達構建的Groq 3 LPX機架包含256個Groq 3 LPU處理器,提供128GB的SRAM和40 PB/s的推理加速頻寬,並通過每個機架640 TB/s的專用擴展接口將這些晶片連線起來。該機架專為滿足智慧型代理系統的低延遲與大上下文需求設計,適用於代理型AI及實時語音互動場景。英偉達將Groq LPX構想為Rubin GPU的協處理器,通過NVFusion...
Groq 3 LPU是基於SRAM架構的推理加速器,其單晶片集成500MB片上SRAM,存儲頻寬高達150TB/s;機架級方案(Groq 3 LPX)搭載256個LPU處理器,提供128GB片上SRAM和高達40PB/s的推理加速頻寬。該架構旨在通過高片上頻寬和低延遲特性,最佳化AI推理體驗,特別是改善首字回響時間(Time-to-First-Token)與尾時延。例如,...
LP30晶片是英偉達Groq 3 LPX系統中的AI推理加速器晶片。英偉達在GTC 2026上發布了集成該晶片的Groq 3 LPX機架。該機架專為智慧型體系統的低延遲和長上下文需求設計,定位為Vera Rubin的AI推理加速器,採用全液冷設計並基於MGX基礎設施構建。每個Groq 3 LPX機架集成256顆LP30晶片,片上SRAM合計128GB,對應640TB/s擴展...
在Vera Rubin POD中,基於MGX ETL的機架包括Groq 3 LPX機架、Vera CPU機架等。推出背景 MGX ETL是英偉達在GTC 2026大會上推出的開放標準化機架,允許客戶集成來自其他製造商的AI晶片。在GTC 2026上,英偉達展示了專為Agentic AI工作負載打造的Vera Rubin POD,該系統包含五款全新的專用機架級擴展系統,均採用第三代...
LPU晶片將由三星代工,Groq 3 LPX機架預計於2026年下半年開始出貨。Eos超級計算機基於576台DGX H100系統構建,FP8算力達18 EFLOPS。其他廠商與機構也推出了各自的AI超級計算機產品。Meta於2022年發布了用於AI研究與元宇宙體驗構建的AI超算AI Research SuperCluster (RSC)。xAI在美國孟菲斯建設了用於訓練大型AI模型的大型...
Vera Rubin計算平台包括Groq 3 LPU晶片。有機構構建了包含256個LPU的Groq 3 LPX機架,提供128GB的SRAM和40 PB/s的推理加速頻寬。Groq 3 LPX是該平台的推理加速器。LPX與Vera Rubin平台結合後,其推理吞吐量與功耗之比有所提升。通過Dynamo軟體系統的調度,採用“非對稱式分離推理”架構
Groq的技術將被整合到英偉達的新一代架構中。在2026年3月的GTC大會上,Groq 3 LPU首次亮相。Groq 3 LPU被設計為Rubin平台的“增強包”,可與Rubin CPU和GPU協同工作,結合GPU的注意力計算能力和LPU的專家模型矩陣數學運算能力。Groq晶片正在全力生產,計畫於2026年下半年發貨,並由三星代工生產。Groq 3 LPX機架與...
整合旨在將Groq的LPU技術與英偉達現有的GPU技術相結合,構建覆蓋AI推理全流程的解決方案。戰略上旨在補齊英偉達在AI推理,特別是對延遲極度敏感的“解碼”環節的短板,以應對多智慧型體協同時代的需求。技術實現上,廣發證券預測英偉達將在GTC 2026大會上推出名為“LPX機架”的混合計算方案,該方案預計在單個機架內集成256個...
技術細節方面,LPX(LPU)機架旨在增強英偉達在推理領域的產品實力,配備基於SRAM的片上存儲器,提供快速令牌生成和低延遲,GTC 2026預計將展示搭載256個LPU的增強版機架。VR200 NVL72在HBM4和系統設計支持下,在推理和訓練方面的性能預計將超越GB300。NVL576架構將再次展示,並採用中間層板設計,隨著Rubin Ultra轉向448...
Vera Rubin POD是英偉達在GTC 2026大會上發布的一款AI超級計算機平台。它是一個由40個機架組成的集群,集成了Rubin GPU、Vera CPU、NVLink 6 Switch等七種晶片,AI算力達60 exaflops,並採用全液冷設計。該平台的晶片已進入量產階段,預計2026年下半年開始出貨。微軟等將成為首批部署者。產品簡介 在GTC 2026大會上,...
