類CUDA系統

類CUDA系統指中國版編程共享軟體平台。黃海清建議組建中國異構計算軟體生態聯盟以建立該系統。

實踐中,寒武紀推出的Cambricon NeuWare基礎軟體平台正在打造國產“CUDA”。該平台全面兼容主流開源框架,提供完整的軟體棧和BANG C語言等開發工具,並支持模型從GPU到MLU的遷移。

研發背景,發展歷程,功能服務,核心技術,運營模式,重要事件,品牌價值,

研發背景

寒武紀正在構建一個能夠與行業巨頭英偉達CUDA生態相抗衡的軟硬體一體化體系,而AI領域長期存在“晶片架構碎片化”難題。2026年初,黃海清建議組建中國異構計算軟體生態聯盟,建立中國的類CUDA系統,打造類似於英偉達的中國版編程共享軟體平台,稱這對整個產業而言是非常重要的部署。

發展歷程

寒武紀經過多年投入與積累,其基礎軟體平台Cambricon NeuWare已經日趨成熟。2024年初,寒武紀與北京智源人工智慧研究院開始進行FlagGems等組件的聯合開發工作。
2025年11月,寒武紀宣布擁抱眾智FlagOS生態,這是構建國產AI軟體生態的重要一步。同時,寒武紀介紹了Cambricon NeuWare平台的最新進展,包括全面兼容社區最新PyTorch版本和Triton運算元開發語言,支持用戶模型快速遷移;提供了CNPerf-GUI、CNSantizer、BANG C語言及GPU Migration一鍵遷移工具等完整軟體棧;在大模型訓練與推理方面完成了大規模技術驗證,並重點支持了DeepSeek、Qwen、GLM等多個主流模型。同期,FlagOS 1.5版本已經發展成為“4+3”模式。
2026年2月,黃海清建議組建中國異構計算軟體生態聯盟,建立中國的類CUDA系統。

功能服務

類CUDA系統是一個異構計算編程平台,提供多種功能服務。該平台兼容主流開源框架,支持從PyTorch 2.1到PyTorch 2.8的社區版本,並建立了跟進社區版本的機制,可在社區版本發布後實現硬體適配版本的更新。同時兼容Triton運算元開發語言,並提供了GPU Migration遷移工具,幫助用戶將模型從GPU遷移至國產硬體平台。
平台提供了包括CNPerf-GUI和程式正確性分析工具CNSantizer在內的開發工具。CNPerf-GUI適配多平台,支持大日誌檔案的載入及操作;CNSantizer可進行多核間競爭訪問檢測。此外,還提供BANG C語言,這是一種針對特定硬體架構特點進行擴展的異構並行程式語言。
在大模型訓練方向,平台支持多種主流模型,包括DeepSeek V3/V3.1、Qwen2.5/Qwen3/Qwen3-next等MoE類模型,以及GLM4.5、Flux、Wan2.1/2.2等模型,並基於原生FP8計算能力新增了Qwen/DeepSeek等系列網路FP8的訓練支持。在大模型推理方向,研究並實踐W4A4以及MX-FP8/MX-FP4等數據類型,探索並支持Sparse Attention與Linear Attention等多種注意力機制。已驗證其解決方案可支撐多場景下的流式訓練任務。
平台通過參與統一開放生態,致力於應對AI領域“晶片架構碎片化”的挑戰。例如參與眾智FlagOS生態,這是一個面向多種AI晶片的開源系統軟體棧,支持多種國內外主流AI晶片型號。通過開源技術庫和工具平台的協作,提供硬體支持和組件協同。

核心技術

類CUDA系統以寒武紀Cambricon NeuWare平台為例,其核心程式語言為BANG C語言,該語言在C/C++基礎上針對MLU架構擴展,用於高效編寫並行程式。平台具備原生FP8計算能力,新增了對Qwen、DeepSeek等系列網路的FP8訓練支持,同時研究並實踐W4A4、MX-FP8/MX-FP4等新型數據類型以最佳化推理。
平台探索並支持多種高效注意力機制,如Sparse Attention與Linear Attention。平台提供完整軟體棧,包括開發工具如CNPerf-GUI、程式正確性分析工具CNSantizer以及GPU Migration一鍵遷移工具,支持模型從GPU到MLU的快速遷移。
平台全面兼容主流開源框架,如跟進PyTorch社區版本,並積極參與共建統一開放生態,如擁抱FlagOS生態。

運營模式

寒武紀積極參與共建統一開放生態以破解AI晶片架構碎片化難題。2025年11月,寒武紀宣布擁抱由北京智源人工智慧研究院牽頭研發的眾智FlagOS開源系統軟體棧。自2024年初起,寒武紀便與智源研究院聯合開發FlagGems等組件,並進一步拓展到FlagTree(統一多後端的增強版Triton編譯器)、FlagCX(統一通信庫)、FlagScale(並行訓推一體框架)等。FlagOS 1.5版本已發展為“4+3”模式,通過核心開源技術庫與工具平台的相互支撐,提供更廣泛的硬體支持和組件協同。
2026年2月,黃海清建議組建中國異構計算軟體生態聯盟,旨在建立中國的類CUDA系統,打造類似於英偉達的中國版編程共享軟體平台,這被視為對產業發展的重要部署。

重要事件

2024年初,寒武紀與北京智源人工智慧研究院開始進行FlagOS生態的聯合開發工作,後續合作拓展至FlagTree、FlagCX、FlagScale等組件。
2025年11月13日,寒武紀公開其基礎軟體平台Cambricon NeuWare的進展,宣布正在打造國產“CUDA”生態。該平台全面兼容社區最新PyTorch版本和Triton運算元開發語言,支持模型快速遷移,並提供了CNPerf-GUI、CNSantizer、BANG C語言及GPU Migration一鍵遷移工具等完整軟體棧。同時,寒武紀宣布擁抱眾智FlagOS生態,以破解AI晶片架構碎片化難題。
2026年2月1日,業界人士黃海清建議組建中國異構計算軟體生態聯盟,建立中國的類CUDA系統,打造類似於英偉達的中國版編程共享軟體平台。

品牌價值

類CUDA系統是中國自主研發的異構計算編程平台。寒武紀Cambricon NeuWare平台致力於開發國產類CUDA系統,並嘗試構建相應的軟硬體生態。寒武紀也參與了如FlagOS等統一開放生態的共建。
有觀點指出,建立中國的類CUDA系統,打造類似於英偉達的中國版編程共享軟體平台,對產業發展具有重要性。

相關詞條

熱門詞條

聯絡我們