Instinct MI300X是AMD於2023年12月在美國加州聖何塞“Advancing AI”活動上發布的高性能加速處理器，主要面向人工智慧（AI）與高性能計算（HPC）領域。該產品採用CDNA 3架構及3.5D封裝技術，集成8個計算單元和192GB HBM3記憶體，記憶體頻寬達5.2TB/s，支持FP8和稀疏性數學格式，在運行大語言模型推理時性能超越英偉達H100 HGX。AMD同步推出ROCm 6軟體平台，顯著提升生成式AI任務效率，並獲得微軟Azure、Meta、甲骨文等企業的首批部署。AMD執行長蘇姿豐表示，MI300X當日開始發貨，並預測其可能成為公司最快突破10億美元銷售額的產品。截至2024年第一季度，該產品已推動AMD數據中心業務營收同比增長38%，創下22.82億美元的季度紀錄。
基本介紹
- 發布日期：2023年12月7日
- 產品類型：GPU加速器
- 計算單元：304個CU
- 記憶體容量：192GB HBM3
- 記憶體頻寬：5.2TB/s
- 製程工藝：5nm XCD GPU + 6nm I/O單元
行業合作,市場影響,發布與定位,技術架構,性能表現,生態系統,
行業合作
2023年12月起，多家科技企業啟動MI300X部署計畫：
- Meta：計畫將其用於AI研究和高性能計算集群
- 甲骨文：將採用MI300X構建高性能計算實例，支持雙源採購策略
- 微軟（2025年）：AMD MI300X獲得Azure 40億美元訂單，用於大規模AI推理任務，市場份額從2024年的10%提升至15%。
市場影響
MI300X的發布標誌著AMD首次在AI加速器領域具備與英偉達H100系列直接競爭的技術實力。據AMD預測，數據中心AI晶片市場規模將在2027年達到4000億美元，而MI300系列將成為其搶占市場份額的核心產品。截至2024年第一季度，該產品已推動AMD數據中心業務營收同比增長38%，創下22.82億美元的季度紀錄。
進入2025年，MI300X獲得了微軟Azure的40億美元訂單。產品兼容CUDA生態並在價格上具有競爭力，AMD的市場份額從2024年的約10%提升至15%。預計2025年AMD AI晶片全年營收將超過50億美元。
發布與定位
2023年12月6日，AMD在“Advancing AI”發布會上宣布Instinct MI300X正式推出，定位為面向數據中心AI訓練與推理的高性能加速處理器。該產品旨在挑戰英偉達在AI晶片市場的主導地位，通過集成高密度計算單元和大容量記憶體最佳化大語言模型處理能力。AMD執行長蘇姿豐表示，MI300X當日開始發貨，並預測其可能成為公司最快突破10億美元銷售額的產品。
技術架構
MI300X採用多晶片模組化設計：
- 核心配置：集成8顆5nm製程XCD GPU和4顆6nm I/O單元，通過3.5D封裝技術實現1530億電晶體的集成度
- 記憶體系統：配備8個HBM3堆疊，總容量達192GB，頻寬為5.2TB/s，是英偉達H100的1.6倍
- 計算能力：支持FP8、BF16和FP16精度，304個計算單元提供10.4 PFlops的峰值算力
性能表現
與英偉達H100的對比數據包括：
- 推理性能：運行1760億參數Bloom模型時吞吐量提高1.6倍，700億參數Llama 2模型時延降低1.4倍
- 記憶體優勢：HBM3容量為H100的2.4倍，可支持更大規模模型參數載入
- 能效比：通過ROCm 6軟體最佳化，Llama 2任務性能提升8倍，功耗控制在750W
生態系統
AMD通過軟體最佳化增強MI300X適配能力：
- ROCm 6平台：支持PyTorch、TensorFlow及Hugging Face模型，提升開源框架兼容性
- 開發工具：集成OpenAI Triton語言支持，簡化大規模並行計算編程
- 網路接口：配備192GB HBM3顯存，符合OCP/UBB伺服器標準
