Ironwood(谷歌第七代張量處理單元)

本詞條是多義詞,共2個義項
更多義項 ▼ 收起列表 ▲

Ironwood是谷歌(Google)於2025年發布的第七代張量處理單元(TPU),是其首款專為AI推理任務設計的TPU型號。該晶片在2025年的Google Cloud Next大會和Hot Chips 2025大會上被正式展示。

Ironwood的單晶片在FP8精度下峰值算力達4614TFLOPS,配備192GB HBM3e記憶體,頻寬約7.4TB/s,能效比達到前代Trillium的兩倍。其最大特點是支持大規模集群擴展,單個TPU Pod最多可集成9216顆晶片,總算力高達42.5 ExaFLOPS。為實現這一擴展能力,谷歌採用了3D環面拓撲網路與光路交換機(OCS)技術。

基本介紹

  • 外文名:Ironwood
  • 產品類型:張量處理單元
  • 上市時間:2025年4月
  • 所屬品牌:谷歌
發布與定位,技術規格,系統架構與互聯技術,軟體生態與部署模式,面臨的挑戰,

發布與定位

谷歌於2025年4月在Google Cloud Next 25大會上正式發布並首次展示了第七代TPU(代號Ironwood)。這是谷歌TPU產品線中首款專為AI推理任務設計的晶片,標誌著其戰略重心從“以訓練為主”向“推理規模化落地”的關鍵轉變。谷歌明確將其定位為“AI推理時代”的專用基石,旨在通過提升能效和集群擴展性,最佳化大規模推理任務的總擁有成本(TCO)。
與側重訓練的上一代TPU v6e (Trillium) 相比,Ironwood在能效上提升近一倍(約2倍),單晶片FP8算力達4,614 TFLOPS,並支持最多9,216顆晶片組成大規模集群,以應對高並發、低延遲的推理場景。其發布直接吸引了如Anthropic等頭部AI公司的巨額訂單,印證了市場對專用推理算力的迫切需求。隨後,在2025年8月的Hot Chips 2025高性能晶片大會上,谷歌進一步公開了Ironwood的詳細架構設計、光電路交換(OCS)互聯技術及可靠性(RAS)特性等核心技術細節。

技術規格

Ironwood單晶片在FP8精度下的峰值算力為4,614 TFLOPS(約4.6 PetaFLOPS),配備192GB HBM3e高頻寬記憶體,記憶體頻寬約為7.2至7.4 TB/s。其晶片間互連(ICI)的每鏈路頻寬為1.2 Tb/s,聚合雙向頻寬達到9.6 Tbps。單晶片功耗預計在700W到1kW之間,能效比是前代TPU v6e (Trillium)的2倍,並支持動態電壓與頻率調節(DVFS)。晶片集成了第四代稀疏核心(SparseCore),用於加速推薦系統等場景的嵌入操作和集合通信。
在集群層面,單個TPU Pod最多可集成9,216顆Ironwood晶片,其FP8峰值總算力高達42.5 ExaFLOPS。集群提供高達1.77 PB的共享高頻寬記憶體容量。集群網路採用3D環面(3D Torus)拓撲結構,並結合光路交換機(OCS)技術實現高效、低延遲的晶片間互聯與容錯。

系統架構與互聯技術

Ironwood採用3D環面網路拓撲(3D Torus),其基礎邏輯單元為4×4×4的64晶片立方體,封裝於單個機架。谷歌使用光路交換機(OCS)技術進行機架間互聯,替代傳統的數據包交換機,OCS有助於容錯,可在TPU出現故障時將其從格線中移除。單個TPU Pod最大可擴展至9,216顆晶片,構成大規模計算集群,總算力達42.5 ExaFLOPS。
Ironwood的互聯通過混合使用PCB走線、直連銅纜和光模組實現,一個包含9216顆晶片的Pod約需11520根銅纜和13824個1.6T光模組。該系統採用第三代液冷散熱系統,單個滿載機架功耗超過100kW,整個大型Pod在滿負載運行時功耗約10兆瓦。

軟體生態與部署模式

Ironwood通過軟硬體協同策略構建了面向開放市場的完整解決方案。
Ironwood配套了完整的軟體棧,包括最佳化後的XLA編譯器、自研的Pathways軟體堆疊以及TPU command center等工具。為降低遷移門檻,其支持開發者通過PyTorch生態工具與TPU進行互動,無需精通谷歌自研的Jax語言。谷歌還積極向開源社區貢獻代碼,例如向vLLM、SGLang等主流開源推理框架貢獻代碼,並推出“Agent2Agent”等生態協定。
谷歌推出了創新的雙商業模式:一是通過谷歌雲按需租用TPU算力;二是通過“TPU@Premises”計畫,允許客戶在自有數據中心本地部署Ironwood硬體。客戶可選擇兩種集群配置:256晶片的基礎配置和高達9,216晶片的超大規模集群配置,總算力達42.5 ExaFLOPS。

面臨的挑戰

Ironwood面臨先進封裝產能短缺導致的供應鏈瓶頸挑戰。該TPU採用了複雜的多晶片組件(MCM)架構,必須依賴台積電的CoWoS等先進封裝技術。
由於台積電的CoWoS產能已被蘋果和英偉達等長期客戶鎖定,作為封裝產能“新玩家”的谷歌,其訂單優先權處於佇列末端,這可能影響其2026年的實際出貨量。谷歌正在探索替代方案,包括利用英特爾的EMIB-T等封裝技術以應對瓶頸。

相關詞條

熱門詞條

聯絡我們