LPX機架

LPX機架是英偉達在GTC 2026大會上發布的Groq 3 LPX機架，一款專為智慧型體（Agentic）系統低延遲和大上下文需求設計的AI推理專用機架。其定位為Vera Rubin平台的AI推理加速器，採用全液冷設計並基於MGX基礎設施構建。

該機架包含256個LPU處理器，片上SRAM總計128GB，擴展頻寬達640TB/s。通過與Vera Rubin GPU協同工作，旨在實現較高的推理吞吐量功耗比，並為萬億參數模型提供最佳化。LPU晶片由三星代工，該機架預計於2026年下半年面世。

基本介紹

• 中文名：LPX機架
• 上市時間：2026年下半年

發布與定位

LPX機架是英偉達在GTC 2026大會上發布的AI推理專用機架系統。Groq 3 LPX機架是Vera Rubin AI平台的專用AI推理加速器（機架）。該機架是英偉達以200億美元完成對Groq智慧財產權授權與核心團隊引進後，不到四個月內推出的首款產品化成果。該產品專為滿足智慧型體系統對低延遲和大上下文的需求而設計。該機架於2026年3月在GTC 2026大會上正式發布，預計將於2026年下半年正式面世。

技術規格

Groq 3 LPX機架採用全液冷設計，並基於MGX基礎設施構建。LPX機架由32個1U LPU計算托盤與2台Spectrum-X交換機構成。整個機架集成了256顆Groq 3 (LP30) LPU處理器，每顆LPU晶片擁有500MB的片上SRAM，因此機架總SRAM容量為128GB，這對應40 PB/s的SRAM頻寬。該系統提供640 TB/s的專用擴展互聯頻寬，並包含32個1U計算托盤，每個托盤中配備8顆LPU晶片。每個計算托盤搭載16塊LP30、2塊Altera FPGA（英偉達稱之為“Fabric Expansion Logic”）、1顆Intel Granite Rapids主機CPU及1塊BlueField-4前端模組。每個LPU晶片通過96條112Gbps C2C鏈路連線至系統其它部分。FPGA在系統中承擔多重關鍵職能，包括將LPU的C2C協定轉換為乙太網，並提供每塊最高256GB的DDR5擴展記憶體用於KV Cache存儲；單一托盤可通過結構擴展邏輯和頭節點CPU擴展合計384GB的DRAM記憶體，在片上SRAM不足以覆蓋任務需求時提供後援支持。

核心技術

LPX機架的核心技術源於其集成的Groq LPU（語言處理單元）。與依賴外部高頻寬記憶體（HBM）的GPU不同，LPU將海量SRAM記憶體直接集成在晶片上，並通過確定性執行模式，在編譯時即調度所有計算與數據移動，從而徹底消除了運行時記憶體頻寬爭用，實現了毫秒級的超低延遲Token生成。LPX機架引入了注意力與前饋網路解耦（AFD）技術，將大模型推理中的注意力計算與前饋網路計算拆分至不同硬體執行。GPU專注處理涉及動態KV Cache的注意力計算，LPU則承擔FFN計算，兩者通過All-to-All集合通信協作。此外，LPU可在投機解碼框架中部署草稿模型或多token預測層，以降低解碼延遲。為了實現大規模擴展，機架內256個LPU通過FPGA將LPU的C2C協定轉換為乙太網，接入Spectrum-X交換機網路實現互聯，能夠像一個共享記憶體空間般協同工作，實現近乎線性的擴展。

LPX機架作為Vera Rubin平台的推理加速器，與平台其他組件通過協同設計的架構緊密結合。Rubin GPU和LPU通過共同計算AI模型每一層以提升解碼速度。

產品設計

LPX機架是一種套用於Vera Rubin平台的AI推理加速器。其架構針對運行大規模參數模型和處理長上下文序列進行了最佳化。

LPX機架與Vera Rubin平台（特別是NVL72系統）進行了協同設計。該設計通過Rubin GPU與LPU協同計算模型各層的輸出token，以提升系統的整體效率。

該機架集成256個Groq 3 (LP30) LPU處理器，提供總計128GB的片上SRAM和較高的記憶體頻寬。為應對高密度計算產生的熱量，採用了液冷散熱方案。其硬體構建基於英偉達的MGX模組化伺服器基礎設施，可套用於Vera Rubin AI平台。

LPX機架由32個1U LPU計算托盤與2台Spectrum-X交換機構成。每個計算托盤搭載16塊LP30、2塊Altera FPGA（英偉達稱之為“Fabric Expansion Logic”）、1顆Intel Granite Rapids主機CPU及1塊BlueField-4前端模組。LPU模組以“腹對腹”方式安裝於PCB板兩側，旨在縮短全網際網路格所需的走線長度。節點內16塊LPU以全互聯Mesh拓撲相連，節點間通過銅纜背板互聯，跨機架連線則通過前面板OSFP接口實現。整個機架的規模擴展頻寬總計約640TB/s。

產品生態與定位

在GTC 2026大會上，英偉達發布了LPX推理機架、Vera ETL256 CPU機架與STX存儲參考架構。分析認為，這三款系統共同標誌著英偉達正從GPU供應商向全棧AI基礎設施平台商演進，其觸角覆蓋推理最佳化、CPU密度、存儲編排等領域。作為這一戰略演進的關鍵組成部分，LPX機架是英偉達Vera Rubin AI超級計算機平台的關鍵組成部分。在英偉達構建的分層推理架構中，LPX推理機架承擔特定功能。其定位並非取代GPU，而是與之互補。當模型較小且需要高實時性要求時由LPX處理，當模型需要較大記憶體容量處理長上下文時則由GPU接手。英偉達將訓練和推理分離，GPU負責訓練與長文本預處理，LPU陣列負責實時推理。LPX與Vera Rubin平台結合，將兩種處理器性能結合，提升了推理吞吐量，並為處理萬億參數模型提供了條件。

性能與影響

與Vera Rubin平台結合時，LPX機架在推理吞吐量方面有所提升。其推出被視為在加速計算領域的一次進展，旨在支持處理大規模參數與上下文的任務。LPX系統採用的LP30晶片基於三星SF4工藝，其設計不占用英偉達在台積電N3上的產能配額，也不消耗HBM資源。

該機架具備較高的能效比與回響速度，套用於需要即時推理的場景。在實際套用中，它採用混合算力架構，與GPU分工協作；GPU負責模型訓練與長文本預處理，LPU則專注於實時推理任務。LPU架構基於高頻寬SRAM與確定性流水線執行機制，在單用戶低延遲場景下具備較高的首token生成速度；但SRAM容量有限，隨批量增大KV Cache易飽和，整體吞吐量弱於GPU。通過AFD（注意力與前饋網路解耦）技術，將大模型推理中的注意力計算與前饋網路計算拆分至不同硬體：GPU專注處理注意力計算以利用HBM容量，LPU承擔前饋網路計算以發揮低延遲優勢，並通過集合通信與流水線方式隱藏延遲。這種架構設計用於構建高效的推理系統。

發展歷程

在2026年3月GTC大會召開前，隨著推理算力成為主要算力建設需求，市場分析推測英偉達可能整合Groq LPU或推出LPX機架以實現高效解碼。

2026年3月，英偉達在GTC 2026大會上發布了增強型Groq 3 LPX機架。該機架集成了256顆LP30晶片，提供128GB片上SRAM和640TB/s的擴展頻寬，並採用全液冷設計，基於MGX基礎設施構建。Groq 3 LPX作為Vera Rubin平台的AI推理加速器，旨在滿足智慧型體系統對低延遲和長上下文的需求。其與Vera Rubin平台結合，據稱可提升每兆瓦推理吞吐量，並為運行萬億參數模型提供支持。該機架預計在2026年下半年面世。

根據已披露的路線圖，未來將推出支持NVLink的LPU，該產品可能命名為Rubin LPX並採用台積電3納米工藝，計畫於2027年與Rubin Ultra同步量產。

供應鏈與量產

LPX機架的核心計算單元LPU晶片由三星晶圓廠基於4納米工藝代工生產，LP30晶片採用三星SF4（4納米）工藝製造，以單一整體裸片形式存在，無需先進封裝。受LPX機架需求增長推動，三星晶圓廠在2026年為Groq LPU準備的晶圓供應量已進行上調。採用SF4工藝不擠占英偉達在台積電N3上的稀缺產能配額，也不消耗同樣緊張的HBM資源，這構成了LPX系統的差異化供應鏈優勢。新架構機櫃（即LPX機架）預計於2026年第四季度開始量產，根據市場預測，其2026年與2027年的機櫃出貨量預計分別約為300-500個和15000-20000個。有信息指出，未來的新一代LPU晶片可能轉由台積電代工。