流匹配

流匹配是生成式AI領域的一種前沿生成模型技術,其核心思想是學習將簡單的噪聲分布轉化為複雜的數據分布。它基於歸一化流,通過一系列可逆的變數變換,將複雜的機率分布逐步映射為簡單的分布,也是一種基於常微分方程的生成方法。

該技術的核心概念來源於流體力學中的連續性方程,構建了噪聲分布與數據分布之間連續演變的速度場,模型直接預測速度場而非噪聲。學界認為,當採用高斯分布作為插值策略時,擴散模型是流匹配的一個子集。流匹配通常可利用高階ODE求解器以較少步驟實現高質量採樣。該技術已被套用於FLUX.1 Kontext圖像模型、VAFlow音頻生成框架、視頻生成以及蛋白質與分子設計等領域。

流匹配技術自提出後不斷演進,出現了高斯混合流匹配、離散流匹配等改進模型。2025年,流匹配在國際機器學習大會(ICML 2025)上成為生成相關工作的超熱門主題。何愷明團隊提出了漂移模型新範式,該模型將分布演化從推理階段轉移至訓練階段,實現了單步生成,在ImageNet 256x256基準測試中取得了1.54 FID的成績。

基本介紹

  • 套用:圖像生成
    音頻生成
    蛋白質設計
  • 技術領域:生成式AI
  • 來源:流體力學連續性方程
  • 核心思想:學習將噪聲轉化為數據
  • 理論基礎:基於歸一化流和常微分方程
  • 相關技術:擴散模型是子集
基本概念,原理與數學模型,技術特點與優勢,與擴散模型的對比,套用領域與實例,發展歷程與現狀,評價與展望,

基本概念

流匹配(Flow Matching)是生成式人工智慧領域的一種前沿生成模型技術,其核心思想是學習將簡單的噪聲分布轉化為複雜的數據分布。
該技術基於歸一化流(Normalizing Flows),通過一系列可逆的變數變換,將複雜的機率分布逐步映射為簡單的分布,或通過逆過程從簡單分布生成數據。其核心是學習一個連續時間演化的向量場(速度場),通過求解常微分方程(ODE)來引導數據從噪聲分布流向目標分布。
流匹配的核心概念來源於流體力學中的連續性方程,用以描述機率質量(分布)的流動與守恆。MIT副教授何愷明等研究者指出,擴散模型可被視為流匹配的一個子集;當採用高斯分布作為插值策略時,兩者在本質上是等價的。

原理與數學模型

流匹配的核心思想是學習將噪聲轉化為數據。流匹配是基於歸一化流(Normalizing Flows,NF)的生成模型,它通過一系列可逆的變數變換,將複雜的機率分布逐步映射為簡單的分布;同時,也可以通過這些變換的逆過程,從簡單分布中生成逼真的數據樣本。流匹配技術雖說在生成式AI領域是前沿研究,但其核心概念來源於流體力學。
流匹配是一種基於常微分方程(ODE)的生成方法,其核心思想是學習一個連續時間演化的向量場(v ( x , t )),使數據從噪聲流動到目標分布,數學上,這個演化過程可以描述為: d x ( t ) / d t = v ( x ( t ) , t )。速度場是一個為時空中每個點分配速度向量的函式,在生成模型語境下,速度場為時間t的每個點x分配一個向量v,通過從t=0到t=1追蹤速度場,可以得到樣本從源分布(通常為噪聲)到目標數據分布的轉換路徑。訓練損失函式為均方誤差(MSE): L ( θ ) = E x 1 , t [ ∥ v θ ( x t , t ) − u ( x t , t ) ∥ 2 ],訓練目標就是找到這樣一個速度場,尋找的過程可以使用神經網路來預測一個速度場,拉近跟真實速度場的距離。在流匹配的框架下,主要是採用條件速度場來進行等效替換人為建模的真實速度場。條件Flow Matching (CFM)作為重要擴展,構建了各數據點與噪聲樣本間的路徑,首先從目標分布p1(x)採樣一個潛在變數z,通常直接取z=x1表示目標樣本,然後以此z為一個條件,構造一個從初始到目標的條件機率路徑,一個簡單有效的思路就是線性插值。流匹配有一個對偶視角,稱為變分流匹配(Variational Flow Matching, VFM),與其在每個位置上對所有路徑的速度進行平均,VFM的思路是:在空間中的每一點,推斷它可能朝向的終點分布,這樣一來,該點的速度場就簡單地指向這個分布的均值,當變分後驗為高斯分布時,流匹配與變分流匹配是等價的。MIT副教授何愷明認為,流匹配技術在生成模型領域的位置,擴散模型是流匹配的子集:實際上,當採用高斯分布作為插值策略時,擴散模型其實就是一種特殊的流匹配,擴散模型與高斯流匹配(Gaussian Flow Matching)在本質上是等價的,流匹配提出了一種新的網路輸出形式,將其視為一個速度場。

技術特點與優勢

流匹配構建分布間連續路徑的速度場,作為一種新興的生成模型範式。相較於傳統的擴散模型,流匹配展現出多項獨特的技術特性和優勢。流匹配允許在分布間設計靈活路徑(如直線、曲線軌跡,甚至可動態學習,提供更大的設計自由度),這使其擺脫了擴散模型固定的前向噪聲添加過程。在訓練方面,流匹配直接監督速度場,形成更簡潔的均方誤差目標,訓練過程通常更為穩定。流匹配的生成過程是求解反向常微分方程,通常可利用高階ODE求解器(如Runge-Kutta),以較少步驟(如10-100步)實現高質量採樣,顯著減少了推理時間。流匹配在特定條件下對精確密度匹配提供保證,為最佳化機率流ODE提供更直接路徑。從某種意義上說,流匹配保留了擴散模型的核心優勢,同時通過消除前向噪聲過程的限制實現了技術簡化。

與擴散模型的對比

流匹配與擴散模型存在緊密的理論聯繫。擴散模型可被視為流匹配的一個子集,當採用高斯分布作為插值策略時,擴散模型與高斯流匹配(Gaussian Flow Matching)在本質上是等價的。
兩者的主要區別在於邊界條件(初始和最終狀態)的定義以及網路輸出形式。在擴散模型中,模型預測的是噪聲;而在流匹配中,模型預測的是一個速度場(velocity field)。
儘管輸出形式不同,但兩者的訓練權重函式具有高度一致性,且噪聲調度(noise schedule)對最終的訓練目標函式本身影響較小。
流匹配提出的速度場輸出形式,為生成建模領域帶來了新的模型設定。在使用高階ODE求解器進行採樣時,這種輸出形式可能帶來與擴散模型不同的性能表現,並可能影響訓練過程中的動態行為。
2026年2月,何愷明團隊提出了全新的生成模型範式——漂移模型(Drifting Models)。該範式的核心創新在於將分布的演化過程從推理階段轉移到了神經網路的訓練階段,通過引入“漂移場”(Drifting Field)機制直接對齊先驗分布與真實數據分布,從而在推理時僅需單步前向傳播即可生成高質量樣本,這從根本上擺脫了流匹配與擴散模型對多步ODE/SDE求解的依賴。在ImageNet256x256基準測試中,漂移模型在單步推理下取得了1.54 FID的成績。

套用領域與實例

流匹配作為一種生成式人工智慧的前沿技術,在多個領域展現出套用潛力。
在圖像生成與編輯領域,2025年5月,Black Forest Labs發布的FLUX.1 Kontext模型採用流匹配架構,實現了高質量的文本到圖像生成和圖像編輯。該模型具備角色一致性、局部編輯、風格參考和文本編輯等特性,並能通過Flux Playground平台線上體驗。
在音頻生成領域,流匹配技術能夠同時處理整首曲子的各個部分,在音樂修補和過渡平滑度上表現良好。但其生成質量對採樣步數敏感,當步數從200減少到10時,音頻質量會顯著下降。
在視頻生成領域,流匹配技術也被用於高效視頻生成。例如,北京大學等團隊提出的金字塔流匹配算法,通過將去噪軌跡重新解釋為一系列金字塔階段,實現了在有限算力下生成高質量的768p解析度長視頻。此外,VAFlow框架利用流匹配實現了從視頻分布到音頻分布的直接映射,進行視頻驅動的聲音合成,避免了傳統噪聲先驗帶來的不穩定效果。
在生命科學領域,流匹配技術展現出巨大潛力。在蛋白質工程中,流匹配與評分匹配一同被用於在SE(3)空間中生成蛋白質3D結構,具有訓練穩定、計算複雜度低的優勢。在藥物設計中,清華大學周浩教授團隊提出的等變流匹配模型,相比擴散模型能更高效、穩定地生成合法的分子結構。
流匹配的框架也在向更通用的方向擴展。例如,基於離散流匹配架構的FUDOKI模型,展示了其在通用多模態建模方面的潛力。此外,高斯混合流匹配等改進模型也在持續提升圖像生成的效率與質量。

發展歷程與現狀

流匹配作為一種基於連續歸一化流和常微分方程的生成模型框架,因其簡潔、穩定和高效的特性,迅速成為生成式人工智慧領域的研究熱點。自FLUX模型發布後,流匹配架構引起廣泛關注。2025年,流匹配技術在國際機器學習大會(ICML 2025)上成為生成相關工作的超熱門主題,相關研究幾乎無處不在。
技術本身也在快速疊代和擴展。例如,高斯混合流匹配(GMFlow)通過預測動態高斯混合參數來捕捉多模態流速度分布,有效解決了少步採樣中的性能問題和分類器自由引導下的顏色過飽和問題。離散流匹配(Discrete Flow Matching)架構(如FUDOKI模型)則將其框架拓展至離散數據建模,為多模態生成提供了新路徑。此外,還有針對視頻生成最佳化的金字塔流匹配等改進算法。
目前,流匹配技術已被廣泛套用於圖像、視頻、音頻、蛋白質結構設計等多個生成任務中。憑藉其高質量、穩定、簡潔且通用的模型形態,流匹配被視為構建下一代生成模型的關鍵技術路徑之一,與擴散模型共同推動著生成式AI的發展。

評價與展望

流匹配作為生成式AI領域的前沿技術,因其簡潔、優雅的形態和高效的性能,在學術界和業界獲得了廣泛關注與積極評價。流匹配技術的核心思想來源於流體力學,通過構建連續的機率流路徑和直接學習速度場,為生成模型提供了新的統一視角。
在訓練穩定性與簡潔性方面,流匹配通過直接監督速度場,形成了更簡潔的均方誤差目標,訓練過程通常更為穩定。在採樣效率方面,流匹配通常可利用高階ODE求解器,以較少步驟實現高質量採樣,推理時間更短。在框架的統一性與包容性方面,MIT副教授何愷明等研究者指出,擴散模型可被視為流匹配在採用高斯插值策略時的一個子集,這顯示了流匹配框架的通用性。
流匹配的生成質量嚴重依賴於採樣步驟的數量,步驟過少會導致音質或畫質顯著下降。傳統的流匹配模型因離散化誤差,在少量步驟採樣中表現不佳。在無分類器引導下,流匹配模型可能產生過飽和顏色等問題。
在提升少步採樣性能與質量方面,高斯混合流匹配通過預測多模態流速度分布和新的機率引導方案,旨在解決少步採樣和過飽和問題。在探索新的建模範式方面,VAFlow擺脫對高斯噪聲先驗的依賴,直接建模視頻到音頻的跨模態映射,展示了更高效、穩定的路徑。在擴展套用領域與多模態統一方面,流匹配架構已成功套用於圖像、視頻、音頻、音樂、蛋白質設計等多個領域,並朝著支持多種輸入類型的通用多模態模型發展。在算法與框架的持續最佳化方面,包括探索更優的機率路徑設計、與自回歸等其他生成範式的結合,以及訓練效率和規模的提升。

相關詞條

熱門詞條

聯絡我們