Cerebras CS-3是由Cerebras Systems開發的第三代AI超級計算機，其核心為採用台積電5nm工藝製造的晶圓級AI晶片WSE-3，該晶片集成了4萬億個電晶體和90萬個AI核心。CS-3系統於2024年3月發布，其AI性能是前代CS-2的兩倍，同時保持了相同的功耗與價格。
CS-3旨在訓練大規模AI模型，其系統可支持高達1.2PB的記憶體，能夠在單個邏輯記憶體空間中容納24萬億參數的模型，規模可達GPT-4的十倍。通過SwarmX互連技術，CS-3可擴展至由2048個系統組成的集群，提供高達256 exaFLOPs的AI計算性能。在AI推理任務中，基於CS-3的系統也展現出顯著性能，例如在運行Llama 3.1-8B模型時，其輸出速度可達每秒1800個token。
基本介紹
- 外文名：Cerebras CS-3
- 產品類型：AI超級計算機
- 上市時間：2024年3月
產品簡介,技術規格,性能表現,市場套用,發展歷程,
產品簡介
Cerebras CS-3是Cerebras Systems公司於2024年3月發布的第三代晶圓級AI超級計算機系統，其核心是Wafer Scale Engine 3（WSE-3）晶圓級晶片。WSE-3採用台積電5nm工藝製造，集成了4萬億個電晶體和90萬個AI核心，峰值AI算力高達125 PetaFLOPS。CS-3在性能較前代翻倍的同時，保持了功耗與成本不變。
CS-3配備了高達1.2PB的外部存儲系統（MemoryX），能夠在單個邏輯記憶體空間中容納高達24萬億參數的模型，無需複雜的模型分區或重構，從而簡化訓練工作流程並提高了開發效率。與使用GPU集群相比，在CS-3平台上開發所需的代碼量顯著減少。
CS-3系統具備強大的擴展能力，可通過SwarmX互連技術構建超大規模集群，單個集群可支持多達2048個系統，且整個集群的運行體驗與單一設備無異。其設計理念強調“硬體-軟體協同設計”，通過獨特的晶圓級架構，旨在解決傳統GPU集群在記憶體頻寬、互聯延遲和分散式計算複雜性方面的瓶頸。
技術規格
Cerebras CS-3系統基於Wafer Scale Engine 3（WSE-3）晶圓級晶片構建。該晶片採用台積電5納米製程工藝，單顆面積約46225平方毫米，集成了4萬億個電晶體和90萬個AI核心。片上集成44GB SRAM快取，可提供125 PetaFLOPS（FP16）的峰值AI算力。
其記憶體頻寬為21 PB/s，結構頻寬高達214 PB/s。系統支持1.5TB、12TB或1.2PB等多種配置的外部存儲系統。
在功耗與成本不變的情況下，CS-3系統的AI性能達到前代產品的兩倍。CS-3系統可通過SwarmX互連構建大規模集群，單個集群最高可擴展至2048個系統，提供高達256 exaFLOPs的AI計算性能。
性能表現
Cerebras CS-3定位為高性能AI超算，在訓練和推理方面有其特點。單個CS-3系統可訓練高達24萬億參數的模型。由2048個CS-3組成的集群可以提供256 exaFLOPs的集群級AI算力。其實訓效率較高，例如，可在24小時內從頭訓練完成Llama 70B參數模型；一個由4台CS-3組成的緊湊集群可以在一天內完成對700億參數Llama模型的微調。
在推理任務中，CS-3基於其創新的AI晶片設計，在Llama 3.1-8B模型上推理速度可達1800 token/s。2025年5月，基於CS-3系統的雲服務在400B參數的Llama 4 Maverick模型上實現了每個用戶每秒2500個Token的推理速度。
CS-3在性能達到前代CS-2兩倍的同時，功耗與成本保持不變。
市場套用
Cerebras CS-3主要面向有大規模AI模型訓練和推理需求的客戶。阿聯G42財團打造的Condor Galaxy 3超算集成了多個CS-3系統。
2026年2月，OpenAI發布的GPT-5.3-Codex-Spark模型採用了Cerebras WSE-3晶片進行推理。有觀點認為Cerebras CS-3系統在推理方面具備性能與能效優勢。
發展歷程
Cerebras Systems是一家美國AI晶片獨角獸公司，成立於2016年，主要致力於改變晶片計算核心架構，提升晶片集成度，簡化集群連線等相關領域的研究以及深度學習的晶片產品的研發。
2019年8月，Cerebras Systems發布了Wafer Scale Engine(WSE)系列的首款晶片，該晶片集成了1.2萬億個電晶體，40萬個AI核心。2021年4月，Cerebras Systems推出WSE-2，第二代晶片擁有2.6萬億個電晶體和85萬個核心。2024年3月，Cerebras推出了第三代晶圓級晶片WSE-3及CS-3系統，WSE-3採用台積電5nm製程，包含4萬億個電晶體和90萬個AI核心。
