GAGA-1

GAGA-1是由Sand.ai團隊於10月10日推出的音畫同步視頻模型。研發歷時6個月,該模型專注人物表演和帶台詞表演,在單純人物表演方面達到影視級別水平,支持5秒和10秒兩種時長,可實現精準的情緒表達和動作表演,支持中文、英文等多語言台詞,但台詞不宜超過20字。目前全員免費使用無水印,未來價格承諾將遠低於Sora2和Veo3,適用於短劇、互動影游NPC對話等場景。

基本介紹

  • 外文名:GAGA-1
  • 發布方:Sand.ai團隊
產品功能,技術原理,發展歷程,團隊背景,適用場景,

產品功能

模型支持5秒和10秒兩種時長,可實現精準的情緒表達和動作表演,支持中文、英文等多語言台詞,但需注意台詞不宜超過20字。

技術原理

GAGA-1基於其研發團隊Sand.ai此前開源的一種自回歸架構視頻模型Magi-1的技術積累。該模型的主要功能在於“音畫協同生成”,即通過視頻與音頻數據的同步訓練與輸出,使AI角色的語音、口型、微表情及手部動作形成關聯,專注於人物對話與表演。
模型採用自回歸架構,將視頻切成小段(如24幀≈1秒)進行生成,上一段先出結果,下一段再基於它生成後續內容,保證了時間順序的因果關係,理論上沒有時長上限,並支持對生成過程進行逐秒控制。
在情緒還原方面,模型能根據台詞的情緒描述(如失望、氣憤),模擬角色面部肌肉的細微變化,如嘴角弧度、眼神變化。在多角色對話場景中,模型能處理“傾聽者反應”,讓未說話的角色呈現視線移動、輕微點頭等互動動作,並使台詞銜接時的口型啟動與停頓時機同步。模型支持中、英、日、韓、法等多語種生成,其中中文與英文表現較好,能實現較為自然的口型匹配與情感表達。
模型在面對大幅複雜動作指令時,角色易出現肢體變形。當輸入提示詞(Prompt)文本過長時,可能出現“吞字漏詞”現象。該模型暫不支持用戶自定義上傳音頻與固定音色ID。

發展歷程

2025年4月,Sand.ai團隊發布了其自回歸視頻生成模型Magi-1,該模型實現了畫質輸出。此後,團隊開始開發專注於人物對話與表演的音畫同步視頻模型GAGA-1。2025年10月10日,GAGA-1模型由Sand.ai團隊正式上線發布。該模型具備音畫同步生成與數字演員塑造功能。

團隊背景

GAGA-1由Sand.ai團隊研發,Sand.ai是一支專注於視頻生成大模型的全華班初創團隊。團隊創始人為曹越,其博士畢業於清華大學軟體學院,2018年獲清華大學特等獎學金,並於2021年以Swin Transformer共同一作身份獲ICCV最佳論文“馬爾獎”,博士畢業後曾加入微軟亞洲研究院,後任智源研究院視覺中心負責人。該團隊此前曾發布自回歸架構視頻模型Magi-1,在物理規則連貫性和原生音畫同步等領域取得了成果。

適用場景

目前GAGA-1全員免費使用無水印,未來價格承諾將遠低於Sora2和Veo3,適用於短劇、互動影游NPC對話等場景。

相關詞條

熱門詞條

聯絡我們