研發背景
隨著AI模型複雜度的提升,高性能運算元的開發與最佳化成為瓶頸。傳統GPU/加速器運算元開發面臨門檻高、代碼複雜、生態割裂以及跨平台適配難等核心痛點,尤其是頭部AI晶片公司與國產AI晶片的高性能計算平台之間接口互不兼容,顯著增加了模型訓練和推理代碼的遷移成本。以FlashAttention運算元為例,其官方
CUDA實現的代碼量高達500多行,開發過程涉及複雜的執行緒綁定、數據復用與同步等調度工作。
為了解決上述問題,由北京大學計算機學院楊智副教授團隊主導開發了TileLang。TileLang的設計初衷是讓AI運算元開發更容易,旨在探索新的運算元開發方法,提供一款開源AI運算元程式語言。
TileLang的目標是通過創新的Tile級抽象和編譯器自動最佳化,將開發者從複雜的硬體調度(如執行緒綁定、記憶體布局、流水線排布)中解放出來,使其能夠專注於計算邏輯本身。這有助於降低開發門檻和代碼量,並致力於實現“一次編寫、多架構運行”,以應對多元算力生態的適配難題。該語言的開發反映了在解決行業適配難題方面的一種嘗試。
發展歷程
TileLang於2025年1月在GitHub上正式開源。同年7月,TileAI社區發起人王磊博士在Meet AI Compiler技術沙龍上介紹了TileLang的核心設計理念。
2025年9月,
DeepSeek發布V3.2-Exp模型,並宣布使用TileLang進行快速原型開發,同步開源相關運算元。同期,華為昇騰(
CANN)宣布完成對TileLang的適配,並開源了Sparse Flash Attention和
Lightning Indexer等運算元的TileLang實現。
2025年10月,由
山東大學聯合
北京大學、
復旦大學及算能科技共同推進的TileLang-TPU項目,在算能BM1684X、SC11等智算平台完成主流大模型運算元的工程驗證,成功跑通從運算元表達、代碼生成到設備執行的全鏈路閉環。
2025年11月,TileAI社區宣布與
昇騰完成對接,雙方攜手推動開源生態發展。
2025年12月,TileLang AscendNPU IR Developer模式發布,該模式支持從GPU到NPU的跨架構無縫遷移。
2026年1月,TileLang已成功套用於AMD GPU上的Flash Attention開發。同月30日,
摩爾執行緒宣布並開源
TileLang-MUSA項目,實現對摩爾執行緒全功能GPU(如MTT S5000/S4000)的完整支持。
運營模式
TileLang項目由
北京大學計算機學院團隊主導開發,並於2025年1月在GitHub上正式開源,由TileLang社區維護和推動。
社區通過“
模力方舟”平台提供線上的開發與體驗環境,並為開發者提供算力券等資源支持。同時,社區通過舉辦或參與如“Meet AI Compiler”技術沙龍等活動進行技術分享。
核心團隊
TileLang項目由
北京大學計算機學院楊智副教授(博士生導師)團隊主導開發。核心開發與維護成員包括北京大學博士研究生王磊(發起人之一)、董宇騏等。社區Maintainer包括北京大學碩士研究生解文浩等人。此外,
華為等合作方也有技術專家(如楊偲嬋)深度參與TileLang的生態建設與技術支持。
重要事件
2025年1月,TileLang由
北京大學團隊在GitHub上正式開源。2025年9月,深度求索(
DeepSeek)在其V3.2-Exp模型的研發中採用TileLang進行運算元快速原型設計與性能驗證,並同步開源了TileLang版本運算元。同月,在
華為全聯接大會2025的開發者日上,TileLang團隊成員展示了使用TileLang實現FlashAttention運算元,代碼量從500多行減少至80行,並保持了與官方版本持平的性能。
2025年10月,
山東大學聯合
北京大學、
復旦大學及算能科技共同推進TileLang-TPU項目,成功在算能TPU平台上完成主流大模型運算元的工程驗證。2025年11月,TileLang成功實現與華為昇騰計算平台的初步對接。
2026年1月,在AMD GPU上使用TileLang實現Flash Attention,其延遲為
PyTorch實現的約37.1%,同時代碼量從500多行縮減到不到80行。同月30日,
摩爾執行緒宣布開源
TileLang-MUSA項目,實現對TileLang語言的完整支持,並已在MTT S5000/S4000等多代GPU上完成驗證。使用TileLang-MUSA開發大模型關鍵運算元,代碼量較手寫MUSA C++減少約90%,Gemm性能最高可達手寫最佳化版本的95%,
FlashAttention-3可達85%。此外,
微軟的BitNet模型核心量化運算元和BitBLAS也基於TileLang進行開發。
2026年3月,在ASC26世界大學生超級計算機競賽預賽中,
齊魯工業大學(山東省科學院)參賽隊在世界模型推理最佳化賽題中,引入TileLang進行運算元最佳化,相比原始代碼單運算元性能最高提升2.14倍,最終在嚴格保證精度的前提下,在單GPU上實現平均加速5.41倍,並在多卡環境下取得平均加速8.13倍的結果。