LP30晶片

LP30晶片是英偉達Groq 3 LPX系統中的AI推理加速器晶片。英偉達在GTC 2026上發布了集成該晶片的Groq 3 LPX機架。該機架專為智慧型體系統的低延遲和長上下文需求設計，定位為Vera Rubin的AI推理加速器，採用全液冷設計並基於MGX基礎設施構建。每個Groq 3 LPX機架集成256顆LP30晶片，片上SRAM合計128GB，對應640TB/s擴展頻寬，以提升解碼速度、降低回響延遲。

LP30晶片由三星代工，已進入量產，預計第三季度出貨。首個集成該晶片的Vera Rubin機架已在微軟Azure雲上運行。在Vera Rubin平台中，GPU負責Prefill與主要計算，LPU則負責低延遲Token解碼生成。

基本介紹

• 中文名：LP30晶片
• 上市時間：預計第三季度出貨

技術規格

每顆LP30晶片擁有500MB的片上SRAM。整個Groq 3 LPX機架集成256顆LP30晶片，片上SRAM合計達128GB，對應40PB/s的SRAM頻寬。這一硬體特性針對AI推理中的解碼速度與回響延遲進行了最佳化。

每顆LP30晶片具備96條112Gbps的C2C鏈路，用於連線至系統的其他部分。

單一計算托盤可通過結構擴展邏輯和頭節點CPU，擴展總計384GB的DRAM記憶體，在片上SRAM不足以覆蓋任務需求時提供後援支持。

系統集成

每個LP30晶片通過96條112Gbps的C2C（晶片到晶片）鏈路連線至系統其他部分。晶片被集成到1U計算托盤中，每個托盤配備8顆LP30晶片。整個Groq 3 LPX機架系統包含32個上述1U計算托盤，總計集成了256顆LP30晶片。

Groq 3 LPX機架架構採用全液冷設計，並基於英偉達MGX基礎設施構建。

生產與部署

LP30晶片由三星電子代工生產，已進入量產階段，預計第三季度開始出貨。首個集成該晶片的Vera Rubin平台機架已在微軟Azure雲上運行。包含該晶片的Groq 3 LPX機架系統預計在今年下半年面世。

性能與定位

LP30晶片是英偉達Groq 3 LPX系統中的AI推理加速器晶片，旨在提升AI推理的解碼速度並降低回響延遲，專為推理這一AI核心工作負載進行最佳化。其核心工作模式是與Vera Rubin GPU協同工作，在推理流程中，GPU負責預填充與主要計算，而LP30晶片則專注於低延遲的Token解碼生成。該晶片採用大容量片上SRAM及高頻寬互聯設計，集成256顆LP30晶片的Groq 3 LPX機架系統能為Vera Rubin平台帶來每兆瓦推理吞吐量提升高達35倍的能效優勢。這一性能提升有助於支持更大規模參數模型的部署。