Groq 3 LPX

Groq 3 LPX是英偉達發布的機架，這一機架專為智慧型體系統的低延遲和長上下文需求而設計，定位VeraRubin的AI推理加速器。

基本介紹

• 外文名：Groq 3 LPX
• 發布方：英偉達

機架設計

Groq 3 LPX機架架構採用全液冷設計，並基於MGX基礎設施構建。其擁 32個1U計算托盤，每個托盤中配備 8顆Groq 3 （LP30）晶片，每顆LPU擁有500MB的片上SRAM。因此，整個Groq 3 LPX機架集成了256顆LP30晶片，片上SRAM合計128GB，這對應 40PB/s的SRAM頻寬，提升解碼速度、降低回響延遲。

產品擴展

此外，每個Groq 3 （LP30）LPU晶片96條112Gbps C2C鏈路連線至系統其它部分，單一托盤通過結構擴展邏輯和頭節點CPU可擴展合計384GB的DRAM記憶體，以滿足系統互聯的需求，在片上SRAM不足以覆蓋任務需求時提供後援支持。