FlagOS是由北京智源人工智慧研究院牽頭研發的面向多種AI晶片的開源系統軟體棧，作為國產AI超節點智算"北京方案"的核心功能載體，旨在解決大模型訓練和推理中的異構計算、高速互聯和彈性穩定等技術挑戰，重點破解AI算力生態碎片化及大模型遷移難等問題，支持超20種國內外主流AI晶片型號，覆蓋17家廠商。該系統融合併行訓推框架FlagScale、高性能運算元庫FlagAttention和FlagGems、統一通信庫FlagCX等技術組件，平均性能超過晶片廠商原生運算元。
該系統構建包含FlagRelease自動發版平台、九鼎集群管理平台等技術生態，並通過FlagTree開源社區擴展Triton語言上下游生態。2025年6月，FlagGems作為唯一支持多架構的運算元庫正式加入PyTorch基金會生態項目體系，實現PyTorch框架與硬體互通。
2025年9月發布的FlagOS 1.5版本支持20餘種晶片型號，實現最高36.8%訓練加速和20%推理加速，通信效率提升2.5倍，並擴展至具身智慧型領域。目前系統團隊規模達50+，可用性SLA超過99.6%，其技術開源特性支撐起全球首個DeepSeek-R1千億參數模型跨晶片部署。
基本介紹
- 中文名：FlagOS
- 外文名：FlagOS
- 適用領域：開源AI系統軟體技術棧
- 所屬學科：人工智慧
定義,生態建設,高性能通用AI運算元庫FlagGems,統一編譯器 FlagTree,套用,
定義
FlagOS是由北京智源人工智慧研究院牽頭，聯合多家廠商共同開發的面向大模型、支持異構算力的智算集群作業系統。作為面向多種AI晶片的系統軟體棧，FlagOS旨在解決大模型訓練和推理中的異構計算、高速互聯和彈性穩定等技術挑戰，提供統一、開源開放的系統軟體，以支持大模型在多種AI晶片上的運行。
FlagOS融合了北京智源人工智慧研究院長期深耕的面向多種AI晶片的關鍵技術，包括並行訓推框架FlagScale、高性能運算元庫FlagAttention和FlagGems、統一通信庫FlagCX、自動大模型多晶片發版平台FlagRelease、多晶片智算集群管理平台九鼎平台等關鍵技術。
2026年1月5日，北京智源人工智慧研究院正式發布面向多種AI晶片的系統軟體棧——眾智FlagOS1.6。FlagOS1.6支持一次開發、跨晶片運行和多框架支持。
生態建設
2026年1月5日，北京智源人工智慧研究院發布FlagOS1.6，並啟動了一系列生態建設行動。相關技術生態包括FlagRelease自動發版平台、九鼎集群管理平台等，並通過FlagTree開源社區擴展Triton語言的生態。
FlagTree開源社區通過開放合作，致力於開發適用於多種硬體架構的開源、統一AI編譯器，以擴展Triton語言的生態。2025年6月，FlagGems作為唯一支持多架構的運算元庫被納入PyTorch基金會的生態項目體系。
2026年2月12日，智源研究院發布了“2026年智源學者計畫-眾智FlagOS方向”徵集，持續以開源開放為核心，匯聚全球學者創新力量，構建統一、高效、可持續的AI軟體與算力基礎設施。
高性能通用AI運算元庫FlagGems
面向多種 AI 晶片，解決用戶“一次編寫、處處編譯、 處處執行”的難題，FlagGems 自設計之初便採用可插拔式的使用方式，讓用戶無感知接入PyTorch，擴充 PyTorch 對 AI 晶片的擴展能力。比如在 PyTorch 的 ATen 後端註冊，通過 PyTorch 調度器調用到 Triton 核心上。再比如，通過一些像 custom op 的接入方式，來擴充運算元覆蓋的範圍。
目前，FlagGems 運算元庫的總數超過 180 多個，平均性能超過了晶片廠商的原生運算元性能。通過在重點模型DeepSeek 和 OpenSeek上的訓推落地驗證，FlagGems 均有不俗的表現。
6月7日，2025北京智源大會 · PyTorch Day China 論壇上，PyTorch 基金會執行董事 Matt White 宣布高性能通用 AI 運算元庫 FlagGems 項目獲得批准，正式加入 PyTorch 生態項目體系。當地時間6月25日，PyTorch 基金會也在官網及其社交媒體平台上進行了官方聲明。
統一編譯器 FlagTree
為了推動不同架構 AI 硬體系統的創新和落地，打造開源、統一的 AI 系統軟體生態，北京智源人工智慧研究院聯合多家機構開源了 AI 編譯器 FlagTree。
FlagTree 開源項目是由硬體平台、深度學習框架平台、非營利性組織、科研機構等十多家國內外機構共同發起並創立的。2025年3月，FlagTree 開源社區正式建立並開啟運營工作。項目治理委員會（GB）、技術指導委員會（TSC）和項目管理委員會（PMC）的相繼成立，對 FlagTree 的技術發展將形成強有力的組織保障。
FlagTree 開源社區希望以開放合作的方式，打造一個面向多種硬體架構的開源、統一 AI 編譯器，擴展 Triton 語言的上下游生態，賦能大模型技術開發者。通過統一多後端的編譯器，FlagTree 社區能夠建立起一個支持多種硬體架構（GPGPU、DSA、RISC-V AI等）的生態，從而實現跨硬體平台運行，為開發者提供更多選擇，推動 AI 技術的普及和多元發展。
套用
目前，FlagOS支持晶片13+、AI加速卡5600+，團隊50+，SLA超過99.6%。
