基本含義
在大型語言模型(
LLM)中,
Token是模型理解和生成的最小意義單位,是將自然語言文本轉換成數字向量的基本單位。Token中文翻譯為“
詞元”,是AI消化文字的最小單位。為方便理解,可將其比喻為人吃餃子,需逐個處理;AI處理文字時,也會將句子切分成一個個可處理的小塊,即Token。其切割規則大致分為三種:一個詞(如“蘋果”)、一個字(如“啊”)分別可能對應一個Token;而某些詞(如英文單詞“deeplink”)或生僻字則可能被切分為多個Token。Token消耗量指大模型在處理輸入和生成輸出過程中所消耗的Token總量。在商業套用中,大模型通常按消耗的Token總數(包括用戶輸入和模型輸出的Token)進行計費,而非按字數或提問次數。因此,Token消耗量直接關係到使用成本。Token消耗量已成為衡量大模型商業套用規模、算力消耗和API定價的關鍵指標,Token就是人工智慧處理信息的基本計費單位。
隨著趨勢發展,
Token預測的方式也逐漸來到多模態領域,視覺Tokenizer能將視頻和圖像轉換為離散Token,文字、圖片、視頻、語音等不同模態信息都可以經過Token被標準化為統一的符號系統。
英偉達在GTC大會上提出“每瓦Token數”概念,將其作為衡量AI工廠能效和經濟效益的核心指標;
阿里巴巴將AI業務的核心指標從傳統的DAU全面轉向Token消耗量,並成立ATH事業群以推動Token經濟。這標誌著Token正在成為AI世界的新度量衡。
發展歷程
2024年初,中國市場的日均Token消耗量約為1000億。
進入2024年下半年,國內大模型商用落地加速,日均Tokens消耗量從千億級規模增長到萬億級規模,僅用約6個月時間,月複合增長率達到45%。
到2025年,增長勢頭更為迅猛。截至2025年12月,
位元組跳動旗下
豆包大模型的日均Token使用量已突破50萬億。同期,
谷歌披露其各平台每月處理的Token用量已達1300萬億(約合日均43.3萬億)。另據
弗若斯特沙利文報告,2025年下半年,中國企業級大模型日均調用量已提升至37萬億tokens。
摩根大通在2026年初的報告中預測,從2025年至2030年,中國AI推理
Token消耗量的年複合增長率將高達330%,總量預計增長約370倍。
2026年2月,全球最大的大模型API聚合平台
OpenRouter上,中國模型的周調用Token量首次超越美國模型。截至2月底,該平台前十模型總Token消耗量突破28.7萬億,其中國產模型貢獻超過14.69萬億,占比首次過半。
2026年3月,截至3月15日,中國AI大模型的周調用量達到4.69萬億Token,連續第二周超越美國。
全球模型調用月榜前3已被中國模型包攬,
MiniMax的2月日均Token消耗量較去年12月增長超6倍,月之暗面Kimi近20天累計收入已超2025年全年。
2026年3月,阿里巴巴集團成立Alibaba Token Hub (ATH)事業群,整合基礎模型研發到AI套用的部門。
2026年3月18日,
阿里巴巴集團旗下
阿里雲發布公告,因全球AI需求爆發及供應鏈漲價,宣布對AI算力、存儲等產品進行價格調整;
Token調用量暴漲也是重要原因。春節期間(2026年1-3月),
AI Agent套用爆發,阿里雲的
MaaS業務百鍊創下歷史最高增速。
影響
Token消耗量正經歷指數級增長。
摩根大通預測,2025年至2030年,中國AI推理Token消耗量的
年複合增長率將高達330%左右,從約10千萬億增長至約3,900千萬億,五年間增長約370倍。華為高管
楊超斌在2026年3月指出,全球日均Token消耗量在過去兩年中增長了近300倍。這種爆發式增長主要由AI在消費者和企業工作負載中的滲透率提高,以及套用場景從簡單對話擴展到複雜的
智慧型體(Agent)和多模態輸出所驅動。
Token成本已成為AI企業核心競爭力和盈利能力的決定性因素之一。當使用量達到“百萬億token/月”的量級時,每百萬token成本的微小差異都會被放大為巨大的成本差距。在Agent(智慧型體)套用場景下,任務複雜且需7×24小時運行,單次任務可能消耗數十萬乃至數百萬Token,使得成本敏感度急劇放大。企業開始用商業眼光審視AI投資,Token成本直接決定了調用AI服務的價格和智慧型體的盈利能力。
2026年3月,
阿里巴巴集團CEO
吳泳銘宣布成立
Alibaba Token Hub(ATH)事業群,由其本人親自掛帥,整合了
通義實驗室、MaaS業務線、千問事業部及新成立的
悟空事業部。其核心戰略目標明確為“創造Token、輸送Token、套用Token”,並將AI業務的核心指標從傳統的DAU全面轉向Token消耗量。阿里巴巴集團CEO吳泳銘指出,Token將成為數以百億計
AI Agent運行的主要載體。市場對AI投入回報的擔憂正促使科技公司嘗試將AI服務(如Token調用)變現。
巨量Token消耗直接推高了全球算力需求,加劇了GPU、記憶體等硬體的緊缺,並帶動了
算力租賃和
液冷伺服器等相關產業的發展。值得注意的是,Token消耗量的增長並不線性等同於晶片需求增長,因為新一代硬體(如英偉達Blackwell)帶來的推理性能提升以及軟體堆疊的最佳化,也在提升每GPU小時處理的Token量。
隨著AI進入全自動調用時代,
算力需求激增,
電力成本在整個
Token成本結構中的比重越來越大。Token的能源屬性日益凸顯,“Token出海”概念興起,即通過提供高性價比的Token服務來輸出算力和電力。據測算,若全球日均Token調用量達到千萬億級別,對中國用電量的彈性影響可能在2%-12%之間,對中國電力的正向拉動可能達18%。這本質上是一種跨越物理邊界的服務貿易新範式。
國產大模型的Token調用量已在月度和周度層面超越美國產模型。中國模型如
MiniMax、月之暗面Kimi、
DeepSeek等,其API輸入輸出成本較低。在Agent時代,由於任務消耗Token量巨大,成本因素被放大,部分全球開發者會考慮將開源模型嵌入生產環境。
Token消耗量的增長也帶來了網路流量激增的預期。有預測指出,到2030年,僅中國市場因Token產生的網路流量增量就可能達到每天500TB左右,而當前中國所有行動網路流量總和約為每天90TB。這可能對未來通信基礎設施構成壓力。
使用建議
與大模型對話時,儘量精簡提示詞,去除“禮貌廢話”和囉嗦用語(如“你好”“感謝”),以節省輸入和輸出的Token。用英文提問通常比中文更省Token,因為英文單詞的Token密度更高。