AMD Instinct GPU

AMD Instinct GPU是AMD推出的數據中心級AI與高性能計算(HPC)加速器系列。該系列基於CDNA架構,主要型號包括MI300、MI325X、MI350等,用於處理生成式AI模型訓練與推理等嚴苛工作負載。MI300系列採用CDNA 3架構;MI325X加速器基於第3代CDNA架構並配備HBM3e記憶體。MI350系列於2025年發布,採用CDNA 4架構和3納米製程。根據路線圖,後續還將推出MI400系列和基於CDNA 5架構的MI450系列。AMD Instinct GPU已被Meta、微軟、Oracle等公司部署於其AI基礎設施中。2026年,AMD與Meta擴大合作,將為其下一代AI基礎設施提供多代Instinct GPU支持。

基本介紹

  • 中文名:AMD Instinct GPU
  • 外文名:AMD Instinct GPU
  • 產品類型:數據中心AI與高性能計算加速器
  • 上市時間:2023年
產品簡介,發展歷史,技術規格,軟體生態,產品型號,

產品簡介

AMD Instinct GPU是AMD公司推出的數據中心AI與高性能計算加速器系列,為生成式AI大模型訓練、推理及複雜HPC工作負載提供高性能、高能效的算力解決方案。
2026年2月24日,AMD宣布與Meta擴大戰略合作夥伴關係,將為Meta的下一代AI基礎設施提供多代AMD Instinct GPU支持,計畫部署總規模達6吉瓦。首次部署將採用基於MI450架構的定製版AMD Instinct GPU,預計於2026年下半年開始出貨。

發展歷史

2023年,AMD正式發布了基於CDNA 3架構的Instinct MI300系列加速器,包含MI300A APU和MI300X GPU兩款產品。該系列在AI算力、記憶體容量及頻寬方面具備競爭力,並獲得了Meta、微軟等大型客戶的部署。
2024年,AMD推出了Instinct MI325X加速器,它基於第3代CDNA架構,採用256GB HBM3e記憶體,提供6TB/s頻寬。該加速器在Llama-3.1 70B等模型的推理性能上對標英偉達H200,並可與前代MI300X平台直接兼容。
2025年,AMD發布了基於CDNA 4架構、採用台積電3納米製程工藝的Instinct MI350系列,包括MI350X和MI355X兩款型號。該系列配備288GB HBM3e記憶體,支持FP6/FP4數據類型,AI算力較MI300系列有數倍提升,在推理和訓練性能上對標英偉達同期產品。MI350系列於2025年中開始量產出貨。
2025年,AMD與OpenAI達成深度合作,授予其一份可購買大量AMD股份的認股權證。雙方將通過共享技術專長,共同最佳化從MI450系列開始的未來產品路線圖,OpenAI計畫在未來四年內部署高達6吉瓦的AMD Instinct GPU算力。
2026年,AMD與Meta宣布擴大戰略合作夥伴關係,將為Meta的下一代AI基礎設施提供多代Instinct GPU支持。首次吉瓦級部署將採用基於MI450架構的定製版Instinct GPU,預計於2026年下半年開始出貨。同時,AMD與Oracle的合作計畫顯示,從2026年第三季度開始,Oracle雲將提供由數萬個MI450系列GPU支持的AI計算集群。MI450系列預計將基於CDNA 5架構和2納米工藝,配備高達432GB的HBM4記憶體。

技術規格

AMD Instinct GPU基於CDNA架構疊代,例如MI300系列基於第三代CDNA架構,MI325X基於第三代CDNA架構並升級記憶體,MI350系列則採用了全新的第四代CDNA架構,面向未來的MI400/MI450系列預計將採用下一代CDNA架構(如CDNA 5)。配備大容量高頻寬HBM記憶體,已演進至HBM3e(如MI325X、MI350系列),並規劃在未來產品(如MI400/MI450系列)中採用HBM4。以MI350系列為例,其配備高達288GB的HBM3e記憶體,頻寬可達8TB/s,而規劃中的MI450系列則預計配備高達432GB的HBM4記憶體,頻寬達到20TB/s。
自MI350系列起新增對FP6和FP4數據精度的支持,以顯著提升推理能效和性能。此外,AMD還提供Helios等機架級架構解決方案,整合多顆Instinct GPU與EPYC CPU,通過高速互聯實現大規模可擴展的AI計算集群。
在散熱方面,特別是直接液冷(DLC)架構,能夠有效冷卻高功耗組件,據合作夥伴方案顯示,可幫助降低最多40%的耗電量。在安全方面,部分系列(如MI350)提供了設備安全啟動(Device Secure Boot)、安全更新與恢復(Secure Update and Recovery)以及平台級身份驗證(Platform-Level DICE Identity and Attestation)等功能,以保護AI模型、數據和系統完整性。

軟體生態

AMD Instinct GPU運用AMD ROCm™軟體,這是AMD加速運算的基礎,並採用“一次編碼,隨處可用”的方法。
AMD Instinct MI350系列GPU可與JAX、Kokkos、ONNX、PyTorch、Raja、Runtime、TensorFlow、Triton、vLLM等集成,用於AI和HPC部署。AMD Instinct GPU包含對PyTorch和TensorFlow等業界標準框架的支持。
ROCm軟體通過與Hugging Face、Meta、OpenAI等機構的合作,為其模型提供支持與最佳化。ROCm軟體的更新會提升AMD Instinct加速器的訓練和推理效能。
ROCm 7.0允許在開源系統中開發應用程式,使軟體具有可移植性,支持在不同廠商的GPU間遷移代碼。AMD Instinct MI350系列GPU具備安全功能以保護AI模型、數據和系統,例如設備安全啟動和安全更新與恢復。

產品型號

MI300系列是AMD Instinct GPU的首批產品,包含MI300A和MI300X兩款產品。該系列基於CDNA 3架構,主要競爭對手包括英偉達H100。MI300X擁有304個計算單元(CU)。該系列產品已獲得Meta、微軟、甲骨文等客戶部署。
MI325X是MI300系列的升級版,採用HBM3e記憶體,提供256GB容量和6TB/s的頻寬。該加速器基於第3代AMD CDNA™架構,專為AI模型訓練和推理設計。在Mixtral 8x7B等模型的推理性能上,可比競爭對手產品提升1.4倍。該加速器於2024年第四季度上市,並與MI300X平台兼容。
MI350系列基於CDNA 4架構和3nm工藝,包含MI350X和MI355X兩款型號。該系列採用288GB HBM3e記憶體,頻寬達8TB/s,支持FP6和FP4數據類型。單GPU可運行5200億參數的模型。該系列已於2025年開始量產出貨,提供風冷和液冷兩種散熱方案。
MI400系列規劃中將採用下一代CDNA架構和HBM4記憶體,目標是實現性能躍升。
MI450系列基於CDNA 5架構和2nm工藝,配備高達432GB的HBM4記憶體和19.6 TB/s的頻寬。AMD已與Meta達成戰略合作,首次部署將採用基於MI450架構的定製版Instinct GPU,預計於2026年下半年開始出貨。此外,甲骨文雲基礎設施(OCI)也計畫從2026年第三季度開始提供由MI450系列GPU支持的AI計算集群。

相關詞條

熱門詞條

聯絡我們