TileLang

TileLang是一款由北京大學計算機學院團隊主導開發的開源高性能AI運算元程式語言,屬於領域特定語言(DSL),於2025年1月在GitHub開源。

其核心設計基於“Tile”(張量分塊)抽象,採用類Python的聲明式語法,開發者可用接近數學公式的形式描述計算意圖,由編譯器自動完成循環最佳化、記憶體調度等底層硬體適配,旨在降低AI運算元開發門檻並實現“一次編寫,多架構運行”。

TileLang已套用於DeepSeek-V3.2-Exp等大模型研發,並與華為昇騰、摩爾執行緒、算能、沐曦等硬體廠商達成適配合作。社區通過“模力方舟”平台提供線上開發環境,並推動其集成到PyTorch等主流AI框架中。

基本介紹

  • 外文名:TileLang
研發背景,發展歷程,運營模式,核心團隊,重要事件,

研發背景

隨著AI模型複雜度的提升,高性能運算元的開發與最佳化成為瓶頸。傳統GPU/加速器運算元開發面臨門檻高、代碼複雜、生態割裂以及跨平台適配難等核心痛點,尤其是頭部AI晶片公司與國產AI晶片的高性能計算平台之間接口互不兼容,顯著增加了模型訓練和推理代碼的遷移成本。以FlashAttention運算元為例,其官方CUDA實現的代碼量高達500多行,開發過程涉及複雜的執行緒綁定、數據復用與同步等調度工作。
為了解決上述問題,由北京大學計算機學院楊智副教授團隊主導開發了TileLang。TileLang的設計初衷是讓AI運算元開發更容易,旨在探索新的運算元開發方法,提供一款開源AI運算元程式語言。
TileLang的目標是通過創新的Tile級抽象和編譯器自動最佳化,將開發者從複雜的硬體調度(如執行緒綁定、記憶體布局、流水線排布)中解放出來,使其能夠專注於計算邏輯本身。這有助於降低開發門檻和代碼量,並致力於實現“一次編寫、多架構運行”,以應對多元算力生態的適配難題。該語言的開發反映了在解決行業適配難題方面的一種嘗試。

發展歷程

TileLang於2025年1月在GitHub上正式開源。同年7月,TileAI社區發起人王磊博士在Meet AI Compiler技術沙龍上介紹了TileLang的核心設計理念。
2025年9月,DeepSeek發布V3.2-Exp模型,並宣布使用TileLang進行快速原型開發,同步開源相關運算元。同期,華為昇騰(CANN)宣布完成對TileLang的適配,並開源了Sparse Flash Attention和Lightning Indexer等運算元的TileLang實現。
2025年10月,由山東大學聯合北京大學、復旦大學及算能科技共同推進的TileLang-TPU項目,在算能BM1684X、SC11等智算平台完成主流大模型運算元的工程驗證,成功跑通從運算元表達、代碼生成到設備執行的全鏈路閉環。
2025年11月,TileAI社區宣布與昇騰完成對接,雙方攜手推動開源生態發展。
2025年12月,TileLang AscendNPU IR Developer模式發布,該模式支持從GPU到NPU的跨架構無縫遷移。
2026年1月,TileLang已成功套用於AMD GPU上的Flash Attention開發。同月30日,摩爾執行緒宣布並開源TileLang-MUSA項目,實現對摩爾執行緒全功能GPU(如MTT S5000/S4000)的完整支持。

運營模式

TileLang項目由北京大學計算機學院團隊主導開發,並於2025年1月在GitHub上正式開源,由TileLang社區維護和推動。
TileLang與華為昇騰、摩爾執行緒、算能、沐曦等硬體廠商達成適配合作,例如摩爾執行緒開源了TileLang-MUSA項目以實現對TileLang的完整支持,算能TPU也通過高校合作項目接入了TileLang。項目與北京大學、山東大學、復旦大學等高校協作,並獲得了“北京大學 鯤鵬昇騰科教創新卓越中心”的算力支持。
社區通過“模力方舟”平台提供線上的開發與體驗環境,並為開發者提供算力券等資源支持。同時,社區通過舉辦或參與如“Meet AI Compiler”技術沙龍等活動進行技術分享。
通過開源協作,社區推動TileLang集成到PyTorch、vLLM等主流AI框架中。

核心團隊

TileLang項目由北京大學計算機學院楊智副教授(博士生導師)團隊主導開發。核心開發與維護成員包括北京大學博士研究生王磊(發起人之一)、董宇騏等。社區Maintainer包括北京大學碩士研究生解文浩等人。此外,華為等合作方也有技術專家(如楊偲嬋)深度參與TileLang的生態建設與技術支持。

重要事件

2025年1月,TileLang由北京大學團隊在GitHub上正式開源。2025年9月,深度求索(DeepSeek)在其V3.2-Exp模型的研發中採用TileLang進行運算元快速原型設計與性能驗證,並同步開源了TileLang版本運算元。同月,在華為全聯接大會2025的開發者日上,TileLang團隊成員展示了使用TileLang實現FlashAttention運算元,代碼量從500多行減少至80行,並保持了與官方版本持平的性能。
2025年10月,山東大學聯合北京大學、復旦大學及算能科技共同推進TileLang-TPU項目,成功在算能TPU平台上完成主流大模型運算元的工程驗證。2025年11月,TileLang成功實現與華為昇騰計算平台的初步對接。
2026年1月,在AMD GPU上使用TileLang實現Flash Attention,其延遲為PyTorch實現的約37.1%,同時代碼量從500多行縮減到不到80行。同月30日,摩爾執行緒宣布開源TileLang-MUSA項目,實現對TileLang語言的完整支持,並已在MTT S5000/S4000等多代GPU上完成驗證。使用TileLang-MUSA開發大模型關鍵運算元,代碼量較手寫MUSA C++減少約90%,Gemm性能最高可達手寫最佳化版本的95%,FlashAttention-3可達85%。此外,微軟的BitNet模型核心量化運算元和BitBLAS也基於TileLang進行開發。
2026年3月,在ASC26世界大學生超級計算機競賽預賽中,齊魯工業大學(山東省科學院)參賽隊在世界模型推理最佳化賽題中,引入TileLang進行運算元最佳化,相比原始代碼單運算元性能最高提升2.14倍,最終在嚴格保證精度的前提下,在單GPU上實現平均加速5.41倍,並在多卡環境下取得平均加速8.13倍的結果。

相關詞條

熱門詞條

聯絡我們