XDNA架構

XDNA架構是AMD開發的神經處理單元架構,是一種自適應數據流架構,用於低功耗的AI推理。AMD在2023年首次在x86處理器中集成了基於該架構的NPU,套用於銳龍7040系列移動處理器。

該架構已疊代至XDNA 2,其NPU算力從最初的10 TOPS提升至50 TOPS。最新的XDNA 2架構套用於銳龍AI 300系列處理器。

基本介紹

  • 中文名:XDNA架構
  • 產品類型:神經處理單元架構
  • 上市時間:2023年
  • 所屬品牌:AMD
技術定義與特徵,架構設計與原理,套用產品系列,

技術定義與特徵

XDNA架構是AMD開發的神經處理單元(NPU)架構,專為AI計算而生。該架構源自AMD對賽靈思(Xilinx)的收購整合,最初為FPGA和AI引擎(AIE)技術。
XDNA架構採用自適應數據流架構和空間分區架構。其設計旨在解決AI計算面臨的頻寬有限、記憶體消耗大和高功耗等核心挑戰,通過自適應互連和自定義數據流映射,減少對外部記憶體的訪問,從而在電池供電的AI PC上實現高能效的AI性能。
該架構的核心優勢包括無快取未命中、高數據頻寬、低記憶體容量需求、低時延以及高能效。其空間分區特性支持多重AI任務並發處理,且互不影響服務質量。
在AMD的AI PC解決方案中,XDNA架構的NPU與基於“Zen”架構的CPU、基於RDNA架構的GPU協同工作,構成“三種計算引擎”,分別負責低功耗AI推理、通用處理以及遊戲與AI內容開發。
該架構已演進至XDNA 2。XDNA 2在XDNA基礎上進一步擴展規模,AI計算單元從20個增加至32個,記憶體模組相應增加,並引入對Block FP16數據格式的支持。這使得其NPU算力大幅提升至50 TOPS,能效也顯著提高。

架構設計與原理

AMD XDNA架構是一種自適應數據流架構,巨觀上由大量的AI計算單元的平鋪陣列組成,採用類似Mesh的匯流排互聯。每個AI計算單元包含矢量計算模組、標量計算模組和本地數據存儲模組,採用存算一體化設計,以減少數據搬運並提高能效。
XDNA架構通過自適應互聯和空間分區,支持多重AI任務並行處理而不影響服務質量,並減少外部記憶體訪問以提高性能和能效。
XDNA 2架構相比XDNA 1,AI Tile數量從20個增至32個,Mem Tile從5個增至8個,每Tile MAC數量翻倍,片上記憶體增加60%,支持最多8個並發空間流。
XDNA 2引入獨有的Block FP16(塊浮點16)數據格式,平衡計算性能與精度,並支持基於列的電源門控,顯著提升能效。

套用產品系列

AMD銳龍7040系列移動處理器率先在x86處理器中集成了第一代基於XDNA架構的NPU,AI算力為10 TOPS。銳龍8040系列搭載了第二代基於XDNA架構的NPU,NPU算力提升至16 TOPS。銳龍AI 300系列配備了基於XDNA 2架構的第三代NPU,AI算力為50 TOPS,並支持Block FP16等新特性。
基於Zen 4架構的銳龍PRO系列商用處理器也集成了XDNA架構的NPU,支持Ryzen AI技術。
部分AMD銳龍8000G系列處理器首次將基於XDNA架構的NPU集成到台式機處理器中,整體AI算力為39TOPS。
銳龍AI嵌入式P100和X100系列處理器集成了下一代XDNA 2 NPU,用於低功耗AI加速。
AMD Amuse 2.0 AI創作工具集成了AMD XDNA™ Super Resolution超解析度技術,可完全本地化運行。

相關詞條

熱門詞條

聯絡我們