AMD CDNA4 架構

AMD CDNA 4架構是AMD公司於2025年推出的一款GPU架構,主要面向人工智慧(AI)和高性能計算領域。該架構率先套用於AMD Instinct MI350系列加速器,其計算晶片採用台積電3納米(N3P)工藝製造,並通過3D芯粒技術進行封裝。

CDNA 4架構的核心設計聚焦於AI加速計算,其增強型矩陣引擎相比前代在計算吞吐量上有所提升。它在硬體層面支持FP4與FP6等低精度數據格式,並配備了高達288GB的HBM3E記憶體,記憶體頻寬為8TB/s,旨在支持大語言模型的訓練與推理。

基本介紹

  • 中文名:AMD CDNA4 架構
  • 產品類型:GPU架構
  • 上市時間:2025年
  • 所屬品牌:AMD
技術架構,產品型號,軟體生態,性能表現,

技術架構

AMD CDNA 4架構採用台積電N3P(3納米)先進工藝製造計算晶片(XCD),而I/O晶片(IOD)則採用N6工藝。它延續了3D芯粒(Chiplet)堆疊設計,在計算晶片與I/O晶片之間通過中介層互聯,但將IOD數量從上一代的四個精簡為兩個,以降低跨IOD通信的延遲和功耗。每個MI350加速器封裝了8個XCD,電晶體總數達到1850億個。
每個XCD集成8個32位的CDNA 4計算單元,總計256個計算單元。架構將本地數據共享(LDS)容量從CDNA 3的64KB提升至160KB,並實現頻寬翻倍。其增強型矩陣引擎每時鐘周期的混合精度矩陣操作(用於GEMM加速)和超越函式速率(用於注意力機制)均提升至前代的2倍。
CDNA 4架構的核心設計理念是聚焦AI加速計算,特彆強調對低精度數據格式的原生硬體支持。它在硬體層面直接新增了FP4(MXFP4)和FP6(MXFP6)的流水線邏輯,以實現更高的原生吞吐能力,並同時支持FP8、INT8、BF16、FP16、FP32、FP64等多種數據格式。
架構集成了第四代Infinity Fabric(IF4)互連技術,頻寬得到顯著提升。它支持高達288GB的HBM3E記憶體,通過128條記憶體通道實現8TB/s的峰值讀取頻寬,並集成256MB的AMD Infinity Cache。
CDNA 4引入了靈活的GPU分區功能。MI350加速器可以作為單一NUMA域運行,也可以劃分為兩個域以減少跨晶片訪問延遲。此外,單個XCD還能夠被進一步劃分為獨立的計算分區,實現多實例化,以最大化提升GPU利用率。

產品型號

基於CDNA 4架構的首個產品系列是AMD Instinct MI350,該系列包含面向風冷系統的MI350X(峰值功耗1000W)和面向液冷系統的MI355X(峰值功耗1400W)。產品採用基於OCP UBB(Universal Baseboard)的標準伺服器設計。
該系列GPU搭載高達288GB的HBM3E記憶體,通過128條通道實現8TB/s的峰值讀取頻寬,並集成256MB的AMD Infinity Cache。在標準48U機架內,通過使用16個UBB托盤最多可集成128個GPU。AMD已預先公布下一代Instinct MI400系列將搭載432GB HBM4記憶體,頻寬提升至19.6 TB/s。

軟體生態

在MI350系列推出時,AMD發布了基於CDNA 4架構的加速器,並配合ROCm 7軟體棧進行最佳化。ROCm 7引入了如支持pip安裝等安裝方式,改進了性能調度機制,並擴展了系統兼容性,包括在Windows系統中無需WSL即可運行。ROCm 7的設計也考慮了對筆記本端的支持路徑,Ryzen AI系統未來可能搭載該工具鏈。同時,AMD提供AI開發者雲平台。通過硬體與軟體的協同,形成了一個涵蓋晶片設計、系統封裝、軟體生態和開發者工具鏈的平台。

性能表現

AMD CDNA 4架構及基於該架構的Instinct MI350系列GPU在AI算力方面有所提升。相比前代CDNA 3架構,其AI推理性能預計提升35倍。Instinct MI350系列GPU的FP16性能為18.5 PFlops,FP8為37 PFlops,FP6/FP4為74 PFlops。基於MI355X GPU的測試顯示,在Llama 3.1 405B等大模型的推理任務中,性能相比上一代MI300X提升2.6倍至4.2倍;在大模型訓練中,Llama 3/Llama 2預訓練速度提升2.6倍至3.5倍。
在能效方面,HBM記憶體讀取頻寬每瓦性能相比MI300X最高提升30%。

相關詞條

熱門詞條

聯絡我們