昇騰CANN生態

昇騰CANN生態是圍繞華為昇騰AI處理器，以CANN（Compute Architecture for Neural Networks）異構計算架構為核心構建的開發者生態體系。CANN於2018年發布。2025年8月5日，華為宣布將CANN異構計算架構全面開源開放，並計畫在2025年12月30日前完成從編譯器、運算元庫、領域加速庫、圖引擎、Ascend C程式語言到運行時等核心組件的代碼全量上線。2026年3月2日，昇騰CANN社區版9.0.0-beta.1版本發布。

CANN作為連線上層AI框架與底層昇騰硬體的關鍵軟體層，通過開源開放策略，提供畢昇編譯器、豐富運算元庫，其功能包括降低開發難度和提升硬體計算效率。CANN採用分層解耦的架構設計，被拆分為30多個功能正交的獨立代碼倉庫。為推進社區共治，CANN於2025年9月20日成立了技術指導委員會，吸納來自高校、企業等外部專家共同參與決策。該生態圍繞不同技術領域成立了16個特殊興趣小組（SIG），並於2026年3月成立了首個電力行業特別興趣小組。華為為該生態提供了算力資源和開發板支持。該生態的開發者數量超過60萬，運算元認證開發者超過6000人，聯合客戶夥伴創新孵化出260多個高性能運算元。

研發背景

2025年8月5日，華為輪值董事長徐直軍在昇騰峰會上宣布昇騰硬體使能CANN全面開源開放。此舉旨在跨過英偉達已構建多年的CUDA生態壁壘，降低開發門檻，加速昇騰AI生態的構建，並秉持“硬體開放、軟體開源、使能夥伴、發展人才”的戰略，構建開放、協同的開發者社區。CANN全稱神經網路異構計算架構，是連線上層AI框架與底層昇騰晶片的橋樑，旨在讓開發者無需關心底層硬體細節即可調用算力。

為快速擴大生態，華為向百度、科大訊飛、騰訊等企業派遣工程團隊，幫助其將基於CUDA的代碼遷移並最佳化至CANN環境。華為與西北工業大學等高校合作，將昇騰CANN專項課程融入教學體系。華為還聯合產業夥伴共同發起《CANN開源開放生態共建倡議》，凝聚產業力量共建昇騰生態。CANN採用分層解耦的模組化設計，支持各組件獨立演進，並承諾從編譯器、運算元庫到運行時等核心組件的代碼全量上線。

定義與構成

昇騰CANN生態是圍繞華為昇騰異構計算架構CANN形成的，涵蓋開發者、合作夥伴、開源社區及行業套用的綜合體系。CANN作為昇騰AI的核心基礎軟體平台，是連線上層AI框架與底層昇騰AI處理器的關鍵軟體層，旨在釋放硬體算力。該生態體系驅動昇騰AI賦能千行萬業的數智化轉型。

該生態體系主要由技術架構與核心組件、開源社區與治理模式、開發者支持體系以及行業套用與解決方案等部分構成。

發展歷程

CANN於2018年發布，其1.0版本要求開發者在接近彙編的層面進行編程。2021年年底，CANN發布了5.0版本。

2025年8月5日，華為輪值董事長徐直軍宣布，昇騰硬體使能的CANN將全面開源開放，並承諾在12月30日前完成。2025年9月15日，昇騰超節點暨CANN生態合作大會在深圳龍崗華為坂田基地舉行，發布昇騰超節點算力方案等成果。2025年9月20日，成立CANN技術指導委員會，同日，華為聯合智子芯元發布面向CANN的生態適配工具ModelBridge。2025年10月30日至12月30日期間逐步完成項目開源。

2025年11月14日，昇騰CANN開源開放沙龍·浙江站成功舉辦，發布“CANN生態聯創計畫”。2026年02月10日，CANN生態下的基礎數學計算運算元庫ops-math發布。2026年03月02日，昇騰CANN社區版9.0.0-beta.1版本發布。2026年3月，昇騰CANN開源社區正式成立首個電力行業特別興趣小組(SIG)，由華為聯合南方電網、華南理工大學、杭州天寬科技共同發起。2026年3月19日，華為常務董事汪濤在演講中表示全量開源昇騰CANN生態，旨在改善開發者的使用體驗，同時，CANN開源項目全景列表發布。

技術架構與核心組件

昇騰CANN（Compute Architecture for Neural Networks）是華為面向AI場景推出的異構計算架構，在昇騰AI生態中扮演著承上啟下的關鍵角色。CANN對上支持PyTorch、TensorFlow、MindSpore等主流AI框架，對下禁止昇騰系列AI處理器的硬體差異，旨在為開發者提供全場景、低門檻、高性能的開發體驗，充分釋放硬體算力。CANN秉持開源開放理念，其架構採用分層解耦設計，支持開發者在模型、運算元、核心、底層資源等多個層級進行自主最佳化與自定義開發。

CANN提供了Ascend C程式語言用於高性能運算元開發，通過多層接口抽象降低開發門檻。畢昇編譯器負責圖編譯最佳化，支持自動運算元融合、Buffer融合等技術，將計算圖高效映射到昇騰AI處理器硬體上執行。CANN提供了豐富的運算元庫，預置了超過1400個深度最佳化的基礎運算元，涵蓋數學運算、神經網路、計算機視覺、Transformer等多個領域，並提供了超過100個針對特定場景最佳化的融合運算元。開發者可通過Ascend C、CATLASS模板庫、Triton等多種方式進行自定義運算元開發。此外，CANN還提供了專為昇騰NPU最佳化的基礎數學計算運算元庫ops-math，該庫圍繞數學運算、張量變換與隨機數生成三大能力為人工智慧及通用數值計算場景提供硬體加速計算支持。

華為集合通信庫（HCCL）為昇騰AI處理器的多機多卡訓練提供高性能集合通信方案，支持數據並行與模型並行。其創新算法如專為超節點打造的NB 2.0算法能最佳化跨節點通信性能。運行時（Runtime）開放超過190個原子級接口，供開發者進行流和任務的極致調優。圖引擎通過圖模式最佳化調度，並支持靜態Shape模型的“模型下沉”執行技術，該技術將模型計算圖整體下發至設備端，大幅減少Host與Device間的互動開銷，提升調度性能。

針對大模型訓練與推理場景，CANN集成了一系列最佳化技術。自動並行切分實現大模型在昇騰集群的分散式部署與編譯。KV Cache機制支持KV Cache的分散式存儲、更新與復位，有效加速自回歸生成階段的計算。量化技術支持權重（Weight）量化與KV Cache量化，有效降低大模型的記憶體占用。CANN還提供了針對昇騰硬體最佳化的FlashAttention等高性能融合運算元以提升計算性能，並支持Auto Batching調度以提升AI算力在推理場景下的利用率。針對MoE大模型訓練等前沿場景，CANN進一步推出了超級運算元MLAPO、多重地址映射技術、NPUDirect通信算法等最佳化技術，以解決計算、記憶體與通信維度的“卡脖子”難題。

CANN採用分層解耦的模組化設計，上層包括各類運算元庫、通信庫、圖引擎、領域加速庫；中層包括程式語言與編譯器；底層包括運行時、驅動等資源管理組件。這種架構支持各組件獨立演進，並允許開發者根據需求靈活調用與擴展。從開源項目全景來看，CANN生態涵蓋了運算元庫、通信庫、領域加速庫、圖引擎、運算元編程（如Ascend C）、畢昇編譯器、運行時、驅動等核心組件及其相關項目。

開源策略與社區治理

昇騰CANN生態秉持“硬體開放、軟體開源、使能夥伴、發展人才”的戰略，通過全面開源其核心軟體棧，構建開放、協同的開發者社區，旨在降低AI開發門檻，釋放硬體算力，推動國產AI算力生態的繁榮。

開源策略

華為於2025年8月5日正式宣布將CANN異構計算架構全面開源開放，並承諾在2025年12月30日前完成從編譯器、運算元庫、領域加速庫、圖引擎、Ascend C程式語言到運行時等核心組件的代碼全量上線。為實現靈活演進與按需調用，CANN採用了分層解耦的架構，被拆分為30多個功能正交的獨立代碼倉庫，並圍繞不同技術領域成立了16個特殊興趣小組，支持各組件獨立疊代和社區化治理。CANN的開原始碼主要託管於AtomGit等平台，截至2025年底，其項目下已有27個子項目，總star數超過3700，總下載量突破35萬次。

社區治理

為推進社區共治，CANN於2025年9月20日成立了技術指導委員會，吸納來自高校、企業等外部專家共同參與決策，標誌著其管理從“公司主導的項目制”走向“社區化共治”。

開發者參與路徑

CANN為開發者提供了多條參與路徑，包括通過對接Triton等Python前端框架使用Python語法快速編寫和驗證運算元，使用Ascend C程式語言進行高性能、定製化的運算元開發，以及利用CATLASS運算元模板庫通過模板化方式快速生成高性能運算元。

運營模式

CANN生態開源開放項目全景涵蓋運算元庫、通信庫、領域加速庫、圖引擎、運算元編程、畢昇編譯器、運行時、驅動等核心組件。

“第三方”項目是指由組件核心開發團隊或其所屬組織之外的獨立個人、團隊或機構開發，並以開源許可協定發布的軟體項目；“擴展”項目是指基於基礎組件開發，並以開源許可協定發布的軟體項目。

具體項目實例包括ge（圖編譯器圖執行器，負責計算圖的編譯、最佳化與執行調度，是昇騰圖模式的核心引擎）、AscendSiPBoost（面向AI模型場景和信號處理場景，提供FFT、BLAS、Solver等一系列信號處理領域相關的高性能運算元）、hcomm（提供通信域及通信資源管理能力的通信基礎庫）以及atvc（基於Ascend C開發的典型Vector運算元封裝的一系列模板頭檔案的集合，可幫助用戶快速開發典型Vector運算元）等。

核心團隊

昇騰CANN的發展涉及眾多企業、高校及技術團隊的參與和貢獻，這些合作夥伴在運算元開發、模型最佳化、工具創新等方面為生態建設提供了支持。以科大訊飛為代表的企業與昇騰聯合打造了大規模集群，並針對星火大模型進行了最佳化，聯合開發和最佳化了50多個運算元。智譜、位元組跳動、面壁智慧型、螞蟻集團、美團等20多家企業也是CANN生態的合作者。

無問芯穹基於CANN進行最佳化，針對大模型推理集群部署中的通信開銷進行技術攻關，實現了單運算元性能的提升。清昴智慧型基於CANN構建了從單卡到多卡集群的最佳化方案，提升了昇騰硬體的推理性能。

清華大學計圖團隊基於CANN生態構建了推理框架，開發了MoE專用運算元體系，並在昇騰伺服器上部署了DeepSeek R1模型。華南理工大學陸璐教授團隊與昇騰合作最佳化運算元性能，並參與了昇騰運算元模板庫CATLASS的最佳化工作。西北工業大學徐韜教授團隊作為首批加入“昇騰眾智計畫”的高校團隊，開發並貢獻了近30個高性能運算元。

智子芯元（深圳）科技有限責任公司開發了面向昇騰CANN的生態適配工具ModelBridge，具備運算元自動補齊、一站式適配等功能。

昇騰CANN是中國的人工智慧計算架構。

社區運營與開發者支持

華為承諾每年投入1500P算力和3萬片開發板，支持全球開發者共建共創昇騰開源生態。華為通過鯤鵬昇騰科教創新孵化中心等平台與國內高校合作，提供算力資助支持科研創新，開設鯤鵬昇騰相關課程。華為與教育部合作推動“智慧型基座”計畫，把昇騰課程引入高校課堂。例如，多所高校通過該計畫將昇騰CANN等課程融入教學體系，並積極參與“昇騰眾智計畫”，開發並貢獻了多個高性能運算元。

昇騰舉辦CANN訓練營、昇騰AI創新大賽、昇騰開源技術沙龍等一系列開發者活動。此外，昇騰還舉辦了昇騰超節點暨CANN生態合作大會、昇騰CANN開源開放沙龍等線下生態合作活動。2025年9月15日，昇騰超節點暨CANN生態合作大會在深圳龍崗舉行，集中發布昇騰超節點算力方案、CANN開源生態成果等創新成果。2025年11月14日，昇騰CANN開源開放沙龍在浙江舉辦，會上聯合發布了“CANN生態聯創計畫”，該計畫提供算力、活動、培育、場景、專家團隊等五大核心支持。CANN訓練營2026年第一季活動時間為2026年2月24日至7月20日。昇騰開源技術沙龍舉辦了北京站、廣東站等活動。

線上支持平台包括昇騰社區、昇騰論壇、線上課程以及HiDevLab線上開發平台。線上課程包括Ascend C運算元開發入門課、昇騰AI入門課(PyTorch)等。昇騰社區為開發者提供技術文檔等資源。

昇騰提供生成式AI通用知識、運算元註冊與模型遷移等開發者認證。華為推出昇騰開發者計畫，旨在使能和促進昇騰開發者培養開發能力，基於昇騰平台進行開發和技術創新。

經過多年發展，昇騰CANN生態已匯聚超過60萬開發者，其中深度貢獻的開發者超過6000人。來自網際網路、運營商、金融等領域的30多個夥伴，共同創新孵化出260多個高性能運算元，覆蓋主流AI場景。

重要事件

2025年9月15日，昇騰超節點暨CANN生態合作大會在深圳龍崗華為坂田基地舉行，主題為“智算新紀元，生態創未來——築昇騰算力高地，聚CANN開源生態”，大會集中發布了昇騰超節點算力方案、CANN開源生態成果等創新成果，標誌著龍崗區“All in AI”戰略進入新階段。

2025年11月14日，昇騰CANN開源開放沙龍·浙江站在杭州成功舉辦，聚焦CANN開源開放策略，會上全球計算聯盟、杭州天寬科技有限公司、杭州人工智慧計算中心、浙江省昇騰生態創新中心聯合發布了“CANN生態聯創計畫”，旨在提供高性能算力保障、舉辦行業峰會與運算元大賽、培育開發者、打造標桿套用場景及組建技術專家團隊，首期聚焦“智算+電力行業創新”。