Intel Gaudi 3是英特爾公司於2024年推出的第三代專用於人工智慧（AI）訓練與推理的加速器晶片。它採用台積電5nm製程工藝，核心規格包括64個張量處理器核心（TPC）、8個矩陣乘法引擎（MME）以及128GB HBM2e高頻寬記憶體。其AI計算性能較上一代Gaudi 2有所提升，在與競品英偉達H100的對比中，其宣稱的推理性能平均提升50%，能效平均提高40%。該加速器提供包括PCIe卡和機架級系統在內的多種部署形態，支持基於開放軟體生態和標準乙太網網路進行擴展，旨在為企業AI工作負載提供解決方案。產品已通過戴爾等OEM合作夥伴推向市場。
基本介紹
- 外文名：Intel Gaudi 3
- 上市時間：2024年第二季度
產品規格,技術特點,銷售與市場,專供中國市場版本,發展歷程,相關事件,
產品規格
Intel Gaudi 3是英特爾推出的第三代Gaudi AI加速器，採用台積電5nm製程工藝製造。
其硬體規格包括擁有64個張量處理器核心和8個矩陣乘法引擎，配備128GB HBM2e高頻寬記憶體，頻寬為3.7TB/s，並集成96MBSRAM，頻寬為12.8TB/s。每個Gaudi 3集成24個200Gb乙太網連線埠，系統匯流排採用PCIe 5.0 x16接口，支持FP8、BF16等精度計算。
Gaudi 3加速器提供三種部署形態，包括型號為HL-325L的OAM夾層卡，採用OAM 2.0標準，被動散熱峰值功耗900W，液冷散熱峰值功耗1200W；型號為HLB-325的通用基板，支持八顆Gaudi 3晶片組合；以及型號為HL-338的PCIe擴展卡，採用PCIe 5.0 x16接口，被動散熱峰值功耗600W。
技術特點
Intel Gaudi 3 AI加速器採用台積電5nm工藝製造，其核心架構包含64個張量處理器核心（TPC）和8個矩陣乘法引擎（MME），並搭載128GB HBM2e高頻寬記憶體及96MB SRAM快取。相較於上一代Gaudi 2，Gaudi 3的BF16 AI計算性能提升4倍，FP8 AI計算性能提升2倍，網路頻寬提升2倍，記憶體頻寬提升1.5倍。
Gaudi 3的核心技術特點之一是其開放的生態系統設計。它採用行業標準的乙太網（RoCE）進行網路互連，每加速器集成24個200Gb乙太網連線埠，避免了對NVLink、InfiniBand等專有互聯技術的依賴，以減少對特定供應商技術的依賴。這種基於標準乙太網的設計允許用戶利用現有網路基礎設施，有助於降低組網成本與複雜性，並支持從單個節點擴展到擁有數千個節點的大型集群，以滿足大規模AI訓練、微調和推理的需求。
在軟體生態方面，Gaudi 3提供了軟體支持。它兼容主流的PyTorch深度學習框架，並集成Hugging Face的Transformer和Diffuser模型庫。英特爾提供了模型遷移工具，便於開發者將現有基於GPU的AI解決方案遷移至Gaudi平台。此外，Gaudi軟體套件持續更新，支持最新的PyTorch版本和英特爾oneAPI工具。
銷售與市場
Intel Gaudi 3的銷售與市場策略涉及產品上市時間、OEM及雲服務合作夥伴網路以及產品集成。
Gaudi 3於2024年4月發布，並於2024年第二季度開始向OEM廠商出貨。搭載Gaudi 3的OEM系統於2024年第三季度起全面上市。
英特爾在2024年台北國際電腦展上透露了Gaudi 3晶片的相關信息。英特爾宣稱，Gaudi 3在性能上具有競爭力。
Gaudi 3的主要OEM合作夥伴包括戴爾（Dell Technologies）、慧與（HPE）、聯想（Lenovo）和超微（Supermicro），由它們提供集成了Gaudi 3的伺服器系統。在雲服務領域，英特爾與IBM合作，將Gaudi 3以服務形式部署在IBM Cloud上，相關集群計畫於2024年第四季度開始推出以供大規模生產部署。此外，包括NAVER、博世（Bosch）等在內的企業也是Gaudi加速器的客戶或合作夥伴。
戴爾科技作為OEM合作夥伴，已將Intel Gaudi 3 PCIe卡集成到其PowerEdge XE7440伺服器中並已開始供貨。
專供中國市場版本
為符合美國出口管制政策，英特爾推出了專供中國市場的特定型號Gaudi 3 AI加速器。兩款專為中國製造的處理器分別為HL-328與HL-388，分別採用OAM與PCIe外形規格。這兩款中國特供版晶片的設計功耗均被限制在450瓦，遠低於國際版（例如，PCIe版HL-338為600W，OAM版HL-325L/HL-335可達900W/1200W）。
功耗限制是為了確保產品符合美國對華出口的“總處理性能（TPP）”上限（4800）。為滿足此限制，晶片性能預期將大幅降低，其性能水平可能與英偉達獲準在華銷售的H20加速器相近。HL-328計畫於2024年6月推出，HL-388則計畫於2024年9月與其他PCIe規格的Gaudi 3晶片一同上市。
發展歷程
Gaudi系列源於英特爾在2019年對以色列AI晶片公司Habana Labs的收購。同年，英特爾推出了第一代Gaudi 1 AI加速器。2022年5月，英特爾發布了採用7nm製程的第二代產品Gaudi 2。2024年4月9日，英特爾在美國亞利桑那州舉辦的Intel Vision 2024客戶與合作夥伴大會上，正式發布了第三代AI加速器Gaudi 3。英特爾在會上公布了其性能參數與架構升級，如採用台積電5nm工藝，並宣稱其對比英偉達H100在推理性能上平均提高50%，能效平均提高40%。英特爾宣布Gaudi 3將於2024年第二季度開始向戴爾、惠普、聯想、超微電腦等OEM廠商提供樣品。
在Gaudi 3發布後不久，市場上便有訊息傳出英特爾將推出專供中國市場的版本。根據後續信息，這兩款型號分別為HL-328（OAM規格）和HL-388（PCIe規格），設計功耗限制在450W，以符合出口管制政策，預計分別於2024年6月和9月推出。
2024年9月，英特爾再次正式推出Gaudi 3 AI加速器，此次是與搭載性能核心（P-core）的英特爾至強6（Xeon 6）處理器一同發布。英特爾同時宣布了與IBM合作，將Gaudi 3以服務形式部署在IBM Cloud上。
2025年5月，在COMPUTEX 2025上，英特爾公布了Gaudi 3新的部署方案，包括用於標準伺服器的PCIe卡（HL-338）和機架級系統參考設計。PCIe卡預計於2025年下半年上市，而機架級設計支持每個機櫃最多部署64個加速器。
2025年10月，在OCP全球峰會上，英特爾展示了一款融合了Gaudi 3與英偉達Blackwell B200 GPU的混合型AI機架解決方案，旨在最佳化大模型推理任務中不同階段的負載分配。
截至2026年初，英特爾Gaudi 3 PCIe卡已開始向客戶出貨，並通過戴爾等OEM合作夥伴集成到伺服器系統中。在Gaudi 3發布時，英特爾也透露了其下一代AI加速器的研發代號為“Falcon Shores”。
相關事件
2024年4月9日，英特爾在Intel Vision 2024產業創新大會上首次公開了Gaudi 3 AI加速器。
2024年9月24日，英特爾正式發布Gaudi 3 AI加速器，並與英特爾至強6處理器一同推出。
2025年5月，在COMPUTEX 2025上，英特爾公布了Gaudi 3 AI加速器新的PCIe卡和機架級系統參考設計。
2025年10月，英特爾在OCP全球峰會上展示了融合了英特爾Gaudi 3 AI加速器與英偉達B200 GPU的混合型AI機架解決方案。
