Asimov晶片

Asimov晶片是Positron推出的高能效AI推理晶片,宣稱其Token能效與性價比可達英偉達Rubin GPU的五倍。該晶片採用記憶體優先設計,擁有90%的記憶體頻寬利用率,旨在消除不必要的遠程數據移動以最佳化Transformer推理。

Asimov晶片由一對計算模組組成,內置支持多樣化數據格式的脈動陣列,整體TDP為400W,支持風冷冷卻。其Titan推理伺服器系統聚合了4顆Asimov晶片,支持16T參數模型推理。Positron目標在2026年底完成Asimov晶片流片,並於2027年初投入生產。

基本介紹

  • 中文名:Asimov晶片
  • 外文名:Asimov
  • 產品類型:AI推理晶片
產品定位,技術規格,

產品定位

Asimov是Positron公司推出的第二代ASIC設計,專為AI推理任務開發。該設計旨在提升處理效率,並針對Transformer模型推理中的記憶體瓶頸問題,採用了記憶體優先的設計理念,以最佳化記憶體頻寬的利用。

技術規格

Asimov晶片的設計理念以記憶體優先,擁有90%的記憶體頻寬利用率,並從結構上消除不必要的遠程數據移動。其計算架構由一對計算模組組成,內置支持多樣化數據格式的脈動陣列。每個計算模組連線到432GB的LPDDR5x記憶體,並通過PCIe 6.0/ CXL 3.0連線到至多720GB的KV Cache快取用記憶體;晶片整體記憶體總容量為2304GB,總頻寬為2.76 TB/s。晶片整體TDP為400W,支持風冷冷卻。Asimov支持多樣化拓撲結構的16Tbps晶片間互聯。

相關詞條

熱門詞條

聯絡我們