邃思2.5

邃思2.5

邃思2.5是燧原科技於2021年12月發布的第二代雲端人工智慧推理晶片,基於12nm製程工藝打造,採用2.5D封裝技術,配備兩顆HBM2e顯存,總容量16GB,頻寬達819GB/s。該晶片採用第二代GCU-CARA架構,支持張量、向量、標量混合計算,單精度FP32峰值算力達32 TFLOPS,整型INT8峰值算力達256 TOPS,覆蓋計算機視覺、語音識別、自然語言處理等推理場景。

相較於前代產品,邃思2.5的浮點算力提升1.8倍,整型算力提升3倍,並支持虛擬化與動態節能技術。其搭載的雲燧i20加速卡在2023年世界人工智慧大會上展示,套用於智慧城市、智慧金融等領域的大模型推理部署。

基本介紹

  • 製程工藝:12nm  
  • 封裝技術:2.5D封裝  
  • 顯存配置:16GB HBM2e  
  • 峰值算力:32 TFLOPS(FP32)  
  • 發布時間:2021年12月  
  • 套用領域:雲端推理場景  
技術架構,性能參數,產品套用,研發背景,

技術架構

邃思2.5基於第二代GCU-CARA架構設計,支持全精度計算(FP32、TF32、FP16、BF16、INT8),具備高能效比與高性價比特性。晶片採用2.5D封裝技術,核心尺寸為55mm×55mm,配備兩顆HBM2e顯存,頻寬達819GB/s,顯著提升了數據吞吐效率。

性能參數

  • 計算能力:單精度FP32峰值算力32 TFLOPS,張量TF32峰值算力128 TFLOPS,整型INT8峰值算力256 TOPS。
  • 能效比:支持動態節能技術,與前代推理晶片相比,浮點算力提升1.8倍,整型算力提升3倍。

產品套用

邃思2.5主要套用於第二代雲端推理加速卡雲燧i20。該加速卡理論頻寬819GB/s,性能較前代i10提升最高達3.6倍,在計算機視覺、自然語言處理等場景中與同期旗艦GPU性能持平。截至2023年7月,搭載邃思2.5的解決方案已在智慧城市、智慧金融等領域實現規模化部署,並支持燧原科技文生圖MaaS平台“燧原曜圖™”的推理需求。

研發背景

燧原科技通過邃思2.5完善了第二代訓練與推理產品線,成為國內首家實現完整第二代雲端AI算力產品布局的企業。創始人張亞林表示,該晶片的開發團隊源自AMD,依託自研工具鏈實現了硬體與軟體系統的深度協同。

相關詞條

熱門詞條

聯絡我們