AniSora是B站團隊的開源動漫視頻生成模型。
2025年7月2日,B站團隊的開源動漫視頻生成模型AniSora更新到AniSora V3預覽版。
基本介紹
- 軟體名稱:AniSora
- 開發商:嗶哩嗶哩
發展歷程,主要功能,版本記錄,
發展歷程
2025年7月2日,B站團隊的開源動漫視頻生成模型AniSora更新到AniSora V3預覽版。
主要功能
AniSora支持一鍵生成多種動漫風格的視頻鏡頭,包括番劇片段、國創動畫、漫畫改編、VTuber內容、動畫PV、鬼畜(MAD)等。
版本記錄
AniSora V3
AniSora V3基於B站此前開源的CogVideoX-5B和Wan2.1-14B模型,結合強化學習與人類反饋(RLHF)框架,顯著提升了生成視頻的視覺質量和動作一致性。其支持一鍵生成多種風格的動漫視頻鏡頭,包括番劇片段、國創動畫、漫畫視頻改編、VTuber內容等。
核心升級包括:
- 時空掩碼模組(Spatiotemporal Mask Module)最佳化:V3 版本增強了時空控制能力,支持更複雜的動畫任務,如精細的角色表情控制、動態鏡頭移動和局部圖像引導生成。例如,提示“五位女孩在鏡頭放大時起舞,左手上舉至頭頂再下放至膝蓋”能生成流暢的舞蹈動畫,鏡頭與角色動作同步自然。
- 數據集擴展:V3 繼續依託超過 1000 萬高質量動漫視頻片段(從 100 萬原始視頻中提取)進行訓練,新增數據清洗流水線,確保生成內容的風格一致性和細節豐富度。
- 硬體最佳化:V3 新增對華為 Ascend910B NPU 的原生支持,完全基於國產晶片訓練,推理速度提升約 20%,生成 4 秒高清視頻僅需 2-3 分鐘。
- 多任務學習:V3 強化了多任務處理能力,支持從單幀圖像生成視頻、關鍵幀插值到唇部同步等功能,特別適合漫畫改編和 VTuber 內容創作。
在最新基準測試中,AniSora V3 在 VBench 和雙盲主觀測試中,角色一致性和動作流暢度均達到業界頂尖水平(SOTA),尤其在複雜動作 (如違反物理規律的誇張動漫動作) 上表現突出。
V3 還引入了首個針對動漫視頻生成的 RLHF 框架,通過 AnimeReward 和 GAPO 等工具對模型進行微調,確保輸出更符合人類審美和動漫風格需求。社區開發者已開始基於 V3 開發定製化外掛程式,例如增強特定動漫風格(如吉卜力風)的生成效果。
AniSora V3 支持多種動漫風格,包括日本動漫、國產原創動畫、漫畫改編、VTuber 內容及惡搞動畫(鬼畜動畫),覆蓋 90% 的動漫視頻套用場景。具體套用包括:
- 單圖轉視頻:用戶上傳一張高質量動漫圖像,配合文本提示(如“角色在向前行駛的車中揮手,頭髮隨風擺動”),即可生成動態視頻,保持角色細節和風格一致。
- 漫畫改編:從漫畫幀生成帶唇部同步和動作的動畫,適合快速製作預告片或短篇動畫。
- VTuber 與遊戲:支持實時生成角色動畫,助力獨立創作者和遊戲開發者快速測試角色動作。
- 高解析度輸出:生成視頻支持高達 1080p,確保在社交媒體、流媒體平台上的專業呈現。
AIbase 測試顯示,V3 在生成複雜場景(如多角色互動、動態背景)時,相比 V2 減少了約 15% 的偽影問題,生成時間縮短至平均 2.5 分鐘(IT之家註:4 秒視頻)。
相比 OpenAI 的 Sora 或 Kling 等通用視頻生成模型,AniSora V3 專注於動漫領域。與位元組跳動的 EX-4D 相比,AniSora V3 更專注於 2D / 2.5D 動漫風格,而非 4D 多視角生成。
