Rubin CPX

Rubin CPX是英偉達於2025年9月9日發布的超長上下文推理晶片,專為處理長上下文工作負載設計,旨在提升AI推理效率,主要套用於編程、視頻生成等需要超長上下文視窗的領域。該晶片隸屬於英偉達下一代頂級算力晶片Rubin系列,計畫於2026年底正式出貨。

該晶片通過分離式處理上下文階段與生成階段最佳化算力利用率,針對數百萬tokens級別的長上下文性能進行專門最佳化,具備30petaFLOPs的NVFP4算力及128GB GDDR7記憶體。搭載該晶片的Rubin機架(NVIDIA Vera Rubin NVL144 CPX)集成36個Vera CPU、144塊Rubin GPU和144塊Rubin CPX GPU,其單個機架可提供100TB高速記憶體和1.7PB/s記憶體頻寬。

基本介紹

  • 外文名:Rubin CPX
  • 上市時間:2025年9月
  • 所屬品牌:英偉達
  • 產品類型:超長上下文推理晶片
發展歷程,技術特點,

發展歷程

2025年9月9日,英偉達推出專為長上下文工作負載設計的專用GPU Rubin CPX,用於翻倍提升當前AI推理運算的工作效率,特別是編程、視頻生成等需要超長上下文視窗的套用。

技術特點

搭載Rubin CPX的Rubin機架在處理大上下文視窗時的性能,能比當前旗艦機架GB300 NVL72高出最多6.5倍。

相關詞條

熱門詞條

聯絡我們