LongCat-Next

LongCat-Next,是美團發布的原生多模態大模型。該模型將圖像、語音與文本統一映射為同源的離散Token,通過純粹的“下一個Token預測”(Next Token Prediction,NTP)範式,讓視覺與語音成為AI的“原生母語”。

2026年3月27日,美團發布並全面開源原生多模態大模型LongCat-Next及其核心組件——離散原生解析度視覺分詞器(dNaViT)。LongCat-Next模型打破了當前大模型以“語言為中心”的傳統拼湊式架構,並實現了離散原生自回歸架構(DiNA)、離散原生解析度視覺分詞器(dNaViT)及語義對齊完備編碼器三項關鍵技術突破。

基本介紹

  • 軟體名稱:LongCat-Next
  • 開發商:美團
  • 軟體授權:開源
  • 上線時間:2026年3月27日
研發背景,發展歷程,核心技術,運營與開源,重要事件,主要功能,

研發背景

2026年3月27日,美團發布並開源了原生多模態大模型LongCat-Next及其核心組件離散原生解析度視覺分詞器(dNaViT)。其研發背景源於LongCat團隊的一項核心發現:在統一的建模框架與最佳化目標下,可以構造語義完備的離散表示。研究的目標是將圖像、語音與文本統一映射為同源的離散Token,通過純粹的下一個Token預測(NTP)範式,以一種統一的方式建模各種物理信號,從而讓視覺與語音成為AI的“原生母語”。這旨在打破傳統大模型以“語言為中心”的拼湊式架構。為此,美團構建了名為DiNA(Discrete Native Autoregressive)的離散原生自回歸架構。美團將這一研究思路的核心——LongCat-Next模型和它的離散分詞器全部開源,希望更多開發者能基於它構建真正能感知、理解並作用於真實世界的AI。

發展歷程

2026年3月27日訊息,美團發布並全面開源原生多模態大模型LongCat-Next及其核心組件——離散原生解析度視覺分詞器(dNaViT)。
該模型基於美團提出的DiNA離散原生自回歸架構,將所有模態統一映射為同源的離散Token,並通過純粹的下一個Token預測範式進行建模。美團使用LongCat-Flash-Lite MoE(68.5B總參數,3B激活參數)作為基座進行訓練。官方測試顯示,LongCat-Next在視覺理解(如OmniDocBench0.152/0.226、MathVista 83.1)、圖像生成(LongText-Bench 93.15)、音頻(如TTS任務WER低至1.90)以及純文本任務(MMLU-Pro 77.02、C-Eval86.80)等多個維度上均達到先進水平。模型及dNaViT分詞器已在GitHub開源,技術報告、模型權重及Demo體驗地址也一併公開。

核心技術

DiNA離散原生自回歸架構將所有模態統一為離散Token,並用同一個自回歸模型進行建模,通過純粹的下一個Token預測(NTP)範式打破模態間的隔閡。離散原生解析度視覺分詞器(dNaViT)是視覺Tokenizer,包含語義對齊完備編碼器(SAE)、殘差向量量化(RVQ)壓縮和原生解析度支持三個關鍵部分,支持任意解析度輸入,實現28倍壓縮率。音頻Tokenizer利用Whisper編碼器提取音頻特徵,再通過下採樣與殘差向量量化(RVQ)壓縮為離散音頻token,保留語義和聲學信息。
模型採用LongCat-Flash-Lite MoE作為基座,總參數為68.5B,激活參數為3B。訓練過程分為預對齊、預訓練、中期訓練與SFT三個階段。為應對多模態聯合訓練的異構模組流水線氣泡問題,採用了V型流水線並行(VHalf-based Pipeline Parallelism)策略。

運營與開源

2026年3月27日,美團發布並全面開源原生多模態大模型LongCat-Next及其核心組件——離散原生解析度視覺分詞器(dNaViT)。此次開源內容包括技術報告、代碼以及模型權重,相關資源已在GitHub和HuggingFace平台發布,並提供線上Demo供用戶體驗。根據官方信息,使用LongCat-Next需要至少3張80GB顯存的專業顯示卡(如英偉達A100/H100)。

重要事件

2026年3月27日,美團發布並全面開源原生多模態大模型LongCat-Next及其核心組件——離散原生解析度視覺分詞器(dNaViT),該模型基於美團提出的DiNA(Discrete Native Autoregressive)離散原生自回歸架構,將所有模態統一映射為同源的離散Token,並通過純粹的下一個Token預測(NTP)範式進行建模。

主要功能

LongCat-Next模型打破了當前大模型以“語言為中心”的傳統拼湊式架構,將圖像、語音與文本統一映射為同源的離散Token。通過純粹的“下一個Token預測”(Next Token Prediction,NTP)範式,讓視覺與語音成為AI的“原生母語”。

相關詞條

熱門詞條

聯絡我們