Trillium(谷歌第六代人工智慧數據中心晶片)

Trillium是谷歌於2024年5月14日在I/O開發者大會推出的第六代張量處理單元（TPU），專為人工智慧計算最佳化設計。該晶片較第五代TPUv5e實現計算性能提升4.7倍，能效提高67%，通過擴展矩陣乘法單元規模、翻倍記憶體頻寬等技術改進，支持大規模推薦系統訓練與推理。谷歌計畫於2024年底向雲服務客戶提供該晶片，作為其AI基礎設施核心組件支撐Gemini模型等人工智慧開發需求。

基本介紹

• 所屬公司：谷歌（Alphabet）
• 發布時間：2024年5月
• 晶片代際：第六代TPU
• 性能提升：4.7倍計算性能
• 能效最佳化：67%效率提升
• 商用計畫：2024年底交付

技術特性

採用第三代SparseCore專用加速器，支持PB級數據處理能力，記憶體頻寬較前代實現翻倍提升。通過最佳化時鐘頻率與互連架構，單個晶片組（Pod）可集成256個TPU，多切片技術支持擴展到數萬個晶片集群。矩陣乘法單元（MXU）規模擴展與高頻寬記憶體（HBM）技術改進，使其在處理密集矩陣運算時實現每秒峰值算力突破。

性能對比

與第五代TPUv5e相比，計算性能提升4.7倍，訓練性能提升超過4倍。能效比的顯著最佳化（67%提升）使其成為谷歌史上最節能的TPU產品，有效應對AI算力需求的指數級增長。晶片間互連頻寬加倍的設計，增強了大規模分散式計算的穩定性。

套用場景

主要套用於谷歌雲AI超級計算機，與TPU v5p及NVIDIA H100 GPU協同工作。DeepMind計畫使用Trillium訓練下一代Gemini模型。在推薦系統、自然語言處理等場景中，該晶片可最佳化模型訓練與服務效率。

市場部署

2024年12月起向Google Cloud客戶開放接入，計畫在2025年完成對前代TPU的大規模替代。通過與Hugging Face合作開發Optimum-TPU庫，降低開發者遷移機器學習模型至Trillium平台的技術門檻。雲服務商SADA、創意工具開發商Lightricks等企業已制定具體套用計畫。

生態系統

集成谷歌自研的開放軟體棧與機器學習框架，支持TensorFlow、JAX等主流開發工具。作為北美雲服務提供商自研ASIC的代表產品，其技術路徑影響亞馬遜Trainium、Meta MTIA等競品的研發方向。谷歌執行長桑達爾·皮查伊強調，該晶片將支撐未來十年人工智慧基礎設施的演進需求。