CDNA4架構

CDNA 4架構是AMD公司於2025年正式發布的、面向人工智慧(AI)的GPU架構,是其CDNA架構系列的第四代產品。該架構聚焦於提升低精度數據類型的矩陣乘法性能,以強化AI工作負載處理能力。CDNA 4延續了前代模組化設計,採用芯粒(Chiplet)布局,通過先進封裝技術整合多個計算晶片(XCD)。其核心改進包括新增對FP4、FP6數據格式的硬體支持,提升本地數據共享(LDS)容量與頻寬,並採用HBM3E顯存提供高達288GB容量和8TB/s頻寬。該架構首次套用於Instinct MI350系列加速器,官方宣稱其AI推理性能較前代有大幅提升。

基本介紹

  • 中文名:CDNA 4架構
  • 上市時間:2025年6月
  • 所屬品牌:AMD
發布背景,架構設計,物理封裝與工藝,核心架構改進,靈活分區與可擴展性,技術特性,計算單元增強,存儲層次與快取最佳化,高頻寬記憶體系統,高速互連技術,能效與功耗表現,靈活分區與可擴展性,產品型號,性能表現,發展路線,

發布背景

2024年6月,AMD公布了其AI加速卡的全新路線圖,首次披露了下一代CDNA 4架構及計畫於2025年推出的Instinct MI350系列加速器,並預計該架構將帶來顯著的AI推理性能提升。2025年6月,AMD在美國加州聖何塞舉辦的“ADVANCING AI 2025”峰會上,正式發布了CDNA 4架構及基於該架構的Instinct MI350系列GPU。
該架構是AMD CDNA架構的第四代疊代,其核心設計理念是聚焦於AI加速計算,特別是為了強化生成式人工智慧(AI)和大語言模型(LLM)的工作負載處理能力。具體改進方向包括提升低精度數據類型(如FP4、FP6)的矩陣乘法性能、增強矩陣引擎、支持混合精度計算以及最佳化記憶體子系統等。

架構設計

CDNA 4是AMD面向數據中心AI與高性能計算(HPC)的GPU架構,於2025年正式發布。其核心設計理念聚焦於提升人工智慧(AI)工作負載,特別是生成式AI和大語言模型(LLM)的加速能力。該架構延續了CDNA 3的模組化芯粒(Chiplet)設計思路,但在計算單元、記憶體子系統、互連及封裝技術等方面進行了針對性最佳化,屬於一次“保守進化”。相較於前代,CDNA 4更側重於強化低精度(如FP4、FP6)矩陣運算性能,並擴大記憶體頻寬與容量,以應對不斷增長的AI模型規模。

物理封裝與工藝

CDNA 4架構採用“計算晶片(XCD)+I/O晶片(IOD)”的分層3D堆疊設計。計算晶片(XCD)採用台積電第二代3納米(N3P)工藝製造,而I/O晶片(IOD)採用台積電6納米(N6)工藝製造。整體由8個XCD和2個IOD組成,電晶體總數達到1850億個。其封裝技術結合了CoWoS-S(用於XCD與IOD堆疊)、2.5D(用於HBM3E記憶體與IOD整合)以及3D混合鍵合等多種先進封裝方案。

核心架構改進

在計算單元方面,與CDNA 3的MI300X相比,CDNA 4的MI355X減少了單個XCD中的CU數量,並通過關閉部分單元來提升製造良率,同時憑藉更高的時鐘頻率來維持並提升整體性能,每CU在低精度矩陣運算中的吞吐量實現翻倍。本地數據共享(LDS)容量從CDNA 3的64KB大幅提升至160KB,讀取頻寬翻倍至每周期256位元組,並新增“轉置讀取”指令以最佳化矩陣乘法等運算的記憶體訪問模式,CDNA 4通過全GPU總計約40MB的LDS總容量來彌補單核靈活性的不足。互連技術方面,Infinity Fabric互連匯流排從第三代(IF3)升級至第四代(IF4),XCD集群之間的內部互聯(Infinity Fabric Advanced Package)頻寬高達5.5 TB/s,而GPU之間的外部互聯頻寬則達到1075 GB/s。

靈活分區與可擴展性

CDNA 4架構支持靈活的GPU硬體分區,最多可將單個GPU劃分為8個空間分區,以提升資源利用率。其支持NUMA(非統一記憶體訪問)劃分,HBM顯存可按NUMA域進行分配。NPS(NUMA Per Socket)模式在MI300X支持的NPS1和NPS4基礎上,新增了對NPS2模式的支持,提供了更靈活的多實例部署能力。液冷版本(如MI355X)支持構建大規模GPU集群,單機架最多可部署96至128個GPU。

技術特性

計算單元增強

CDNA 4架構的計算單元針對AI負載進行了重點最佳化。增強型矩陣引擎針對通用矩陣乘法(GEMM)和注意力機制進行了最佳化,使得每個計算單元的矩陣吞吐量相較於前代CDNA 3架構實現翻倍。架構新增了對FP4、FP6低精度數據類型的原生硬體支持,以更好地適應生成式AI模型的推理需求,並繼續支持FP8、FP16/BF16、FP64等多種浮點精度格式。

存儲層次與快取最佳化

CDNA 4架構提升了本地數據共享(LDS)的容量與頻寬。LDS容量從CDNA 3的64KB增至160KB,讀取頻寬翻倍至每周期256位元組,並新增“轉置讀取”指令以最佳化矩陣運算的記憶體訪問模式。整個GPU配備了256MB的AMD Infinity Cache作為記憶體側快取,以降低訪問延遲。

高頻寬記憶體系統

CDNA 4架構的顯存系統全面升級為HBM3E技術。基於該架構的Instinct MI350系列GPU支持高達288GB的HBM3E顯存容量,並提供8TB/s的峰值顯存頻寬。

高速互連技術

CDNA 4架構的互連技術同步升級。Infinity Fabric匯流排升級至第四代(IF4),外部互聯頻寬高達1075GB/s。在晶片內部,兩個XCD計算晶片集群之間通過Infinity Fabric Advanced Package實現互聯,頻寬達到5.5TB/s。

能效與功耗表現

CDNA 4架構在能效方面有顯著提升。官方稱,其在功耗未加倍的情況下實現了計算吞吐量的翻倍。Instinct MI350X GPU在HBM記憶體讀取的每瓦性能方面,較前代MI300X提升了約30%。

靈活分區與可擴展性

CDNA 4架構支持靈活的GPU硬體分區功能。基於該架構的GPU最多可劃分為8個空間分區,並支持NUMA(非統一記憶體訪問)劃分模式(如NPS1、NPS2等)。

產品型號

AMD CDNA 4架構的首個套用產品系列是AMD Instinct MI350系列GPU加速器。該系列於2025年6月在AMD Advancing AI 2025大會上正式發布。Instinct MI350系列包含了面向風冷系統的Instinct MI350X以及面向液冷系統、性能更強的Instinct MI355X。風冷MI350X的熱設計功耗約為1000W,而液冷版本MI355X的熱設計功耗約為1400W,可支持更大規模的液冷集群部署。
根據AMD官方信息,基於CDNA 4架構的Instinct MI350系列在AI推理性能上相比前代CDNA 3架構的MI300系列有顯著提升,官方宣稱最高可達35倍。在具體算力方面,MI350系列FP16精度性能達到18.5 PFlops,FP8為37 PFlops,FP6/FP4高達74 PFlops。其模型參數處理能力也從上一代的7140億激增至4.2萬億,提升近6倍。
該系列產品採用台積電N3P製程工藝的計算晶片與N6工藝的I/O晶片,通過3D混合鍵合與2.5D先進封裝技術集成。全系列標配288GB HBM3E顯存,提供8TB/s的顯存頻寬,並內置256MB AMD Infinity Cache。其互連技術升級至第四代Infinity Fabric,外部頻寬高達1075GB/s。此外,MI350系列原生支持包括FP4、FP6在內的多種低精度數據類型,並支持靈活的GPU硬體分區,以提升大型AI模型部署的資源利用率。
Instinct MI350系列GPU符合OCP開放加速器模組標準,主要面向企業級數據中心與大規模AI訓練及推理負載。

性能表現

基於CDNA 4架構的Instinct MI350系列GPU在FP16精度下達到18.5 PFlops,FP8精度下為37 PFlops,而FP6/FP4精度下峰值性能為74 PFlops。
其模型參數處理能力從前代產品的7140億提升至4.2萬億。在單GPU分區模式下,可支持運行高達5200億參數的AI大模型。
在實際套用中,Instinct MI355X GPU在Llama 3.1 405B、DeepSeek R1等大模型的推理任務中,性能可達前代MI300X的2.6至4.2倍。在部分精度如FP16/BF16的AI計算中,實現了約1.9倍的性能提升。配合ROCm 7軟體棧,在Llama 3.1 70B等模型的推理性能上,較ROCm 6平台平均提升約3.5倍。
在能效比方面,Instinct MI350X GPU的HBM記憶體每瓦讀取性能相比MI300X最高提升約30%。
Instinct MI355X GPU的顯存容量為288GBHBM3E,顯存頻寬為8TB/s。在DeepSeek R1 FP4、Llama 3.1 405B FP4等低精度大模型推理中,其吞吐量數據在相關測試中被記錄。在MLPerf等基準測試中,部分項目如Llama 2 70B微調的測試結果亦有公開數據。

發展路線

2024年6月,AMD首次公布其AI加速卡路線圖,計畫於2025年推出基於下一代CDNA 4架構的Instinct MI350系列GPU。該系列產品於2025年6月在AMD ADVANCING AI峰會上正式發布。
技術分析指出,CDNA 4延續了CDNA 3的模組化設計理念,採用“保守進化”的疊代路線,類似於Zen架構從Zen 3到Zen 4的演進。其策略重點在於通過計算單元微架構最佳化、提升時鐘頻率、擴大本地數據共享容量與頻寬,以及對核心存儲和顯存系統進行針對性增強,從而顯著提升AI低精度計算性能。
技術路徑對比顯示,AMD的CDNA 4架構主要依賴“大晶片 + 大快取”模式來擴大計算規模與記憶體系統優勢;而英偉達則更專注於提升顯存頻寬與單核心效率。CDNA 4通過在FP6精度上與競爭對手持平、並憑藉更高的CU數量和頻率在部分通用計算場景保持領先,顯示其差異化競爭策略。
在發布CDNA 4及MI350系列的同時,AMD已預先公布了下一代Instinct MI400系列GPU的初步特性。MI400系列將基於CDNA 4架構的進一步增強,預計配備432GB HBM4記憶體,頻寬提升至19.6 TB/s,FP4/FP8算力目標分別高達40 PF和20 PF。

相關詞條

熱門詞條

聯絡我們