基礎研究貢獻
位元組Seed團隊在基礎模型架構、訓練範式等底層技術領域進行了多項探索,其研究成果為後續的大模型技術發展提供了思路,並被同行參考和推進。
在殘差連線架構方面,2024年9月,位元組Seed團隊提出了Hyper-Connections(HC)架構,其論文後被ICLR 2025接收。HC改變了恆等映射殘差連線的傳統設計,通過“擴展殘差流寬度+可學習連線矩陣”的方式,在不改變單計算單元FLOPs開銷的前提下,提升了網路的拓撲複雜度,為緩解表征坍縮問題、提升
大語言模型預訓練效率提供了新的架構思路。該架構在大規模訓練中面臨穩定性挑戰。
在知識檢索與表示方面,團隊提出了OverEncoding方法,發現為模型配備大規模的N-gram詞典能有效提升模型性能,且由於參數稀疏激活,其記憶體與計算開銷可控。這一實驗結論揭示了大規模靜態存儲的潛力,啟發了後續“條件存儲”等研究方向。
在稀疏模型架構方面,團隊探索了
UltraMem及其新版本Ultramemv2。該架構通過分散式多層級聯記憶體結構、Tucker分解檢索與隱式參數擴展最佳化,旨在解決傳統混合專家(
MoE)模型在推理階段的高額訪存問題,並驗證了其擴展定律特性。
此外,團隊還進行了其他範式的探索,包括發布實驗性擴散語言模型
Seed Diffusion Preview,系統驗證離散擴散技術路線作為下一代語言模型基礎框架的可行性;提出SuperClass方法,首次捨棄文本編碼器,直接用原始文本分詞作為多分類標籤,在視覺任務上效果優於傳統的CLIP方法;提出新型神經網路架構FAN,通過引入傅立葉原理思想,以彌補
Transformer等主流模型在周期性建模方面的缺陷。
這些基礎研究工作體現了團隊在技術前沿的探索,其成果被後續研究多次參考並作為重要基礎進行改進。
組織體系
Seed團隊的研究方向包括
LLM、語音、視覺、世界模型、基礎架構、AI Infra及下一代AI互動等。在視覺方向,其開發的Seedream 4.5模型採用了跨圖一致性模組,以處理多圖生成中的身份與場景統一問題,並在美學指令遵循方面表現較好。團隊核心成員包括研究科學家康炳易,其參與開發的Depth Anything系列3D重建技術已被納入蘋果CoreML庫,研究方向主要為
計算機視覺與多模態模型。康炳易於2016年獲得
浙江大學本科學位,後在
加州大學伯克利分校與
新加坡國立大學完成聯合培養的碩博學位,師從馮佳時,並曾在Facebook AI Research與
謝賽寧、馬庫斯等學者進行合作。
吳永輝擔任Seed基礎研究負責人,
朱文佳負責模型套用相關工作。團隊的研究亦涉及電商海報生成、IP角色多視角出圖等場景,結合了多圖一致性與細節渲染等技術特點。團隊向執行長
梁汝波匯報,辦公地點分布於
北京、
上海、
深圳、
杭州四地。
行業競爭與人才環境
2026年初,
具身智慧型行業爆發激烈的人才爭奪戰。
位元組跳動旗下
火山引擎為招募具身智慧型方向的操作算法資深專家開出月薪9.5萬元至12萬元的高薪。
作為較早布局機器人領域的團隊,位元組跳動Seed(原AI Lab機器人組)被列為國內人才被“挖角”最嚴重的公司之一。
行業人才爭奪已蔓延至校園,來自知名實驗室的應屆博士生起薪可達60萬至70萬元以上,頂尖算法人才起薪甚至超過百萬。
企業為鎖定人才採取“提前鎖定+定向養成”模式,如大廠在博士生早期階段即建立聯繫,並有創業公司推出“實習即享全職待遇”政策,實習生月薪可達10萬元。
人才爭奪核心在於供需嚴重失衡,對複合型人才要求極高。
據業內預測,若到2027年行業無法實現規模化商業落地,人才爭奪熱潮可能降溫。
發展歷史
2023年,位元組跳動Seed團隊成立。
2024年初,
位元組跳動啟動AI體系重組,拆分出Seed(基礎模型研究)和Flow(AI產品創新)作為獨立單元,直接向
梁汝波匯報。
2025年2月,
吳永輝正式入職
位元組跳動,接管Seed團隊,整合原AI Lab下屬團隊,確立“多模態優先、高效訓練、低成本部署”的技術路線。
2025年6月27日報導,位元組旗下Seed團隊將招募多個機器人相關業務的一號位。
2025年7月31日,位元組跳動Seed團隊發布實驗性擴散語言模型Seed Diffusion Preview。據介紹,其目標是以結構化的代碼生成為實驗領域,系統性地驗證離散擴散技術路線作為下一代語言模型基礎框架的可行性。實驗結果顯示,Seed Diffusion Preview代碼推理速度可達到2146 tokens/s,速度相比同等規模的自回歸模型提升5.4倍。
2025年8月21日,位元組跳動Seed團隊在AI代碼分享平台Hugging Face發布了最新開源的Seed-OSS-36B系列大模型,專為長上下文、推理、Agent和通用場景設計,最大上下文長度可達512k tokens。
2025年10月23日,位元組跳動Seed團隊宣布推出3D生成大模型——
Seed3D 1.0,實現從單張圖像到高質量仿真級3D模型的端到端生成。
2025年12月4日,位元組跳動Seed團隊發布圖像創作模型Seedream 4.5,通過全新跨圖一致性模組解決了多圖生成時角色身份、服飾細節、光影方向的一致性難題,並在美學指令遵循和商業場景套用上實現突破。
2025年12月5日,
火山引擎正式發布豆包語音識別模型2.0(Doubao-Seed-ASR-2.0),該模型基於Seed混合專家大語言模型架構構建,支持多模態視覺識別和13種海外語種識別,在複雜場景下的關鍵字召回率提升20%。
2025年12月16日,位元組跳動Seed團隊發布新一代音視頻創作模型
Seedance 1.5 pro,支持音視頻聯合生成,能夠執行從文本到音視頻的合成以及圖像引導的音視頻生成等任務。
2025年12月24日,位元組跳動Seed團隊宣布推出形式化數學推理專用模型Seed Prover 1.5。據介紹,相比上一代模型,Seed Prover 1.5在16.5小時內,針對IMO 2025的前5道題目生成了完整可編譯驗證的Lean證明代碼,換算成績為35/42,達到此前IMO評分標準的金牌分數線。Seed Prover 1.5的技術報告已對外公開,後續將開放API,邀請感興趣的數學和AI研究者體驗該模型。
建設成就
研發的
豆包大模型已支持
豆包、
扣子、
即夢等超過50多個套用場景。2025年12月發布的豆包語音識別模型2.0(Doubao-Seed-ASR-2.0)新增對多模態視覺識別(單圖/多圖視覺信息輸入)和13種海外語種(日語、韓語、德語、法語等)支持能力,上下文關鍵字召回率提升20%,最佳化專有名詞處理機制。
2025年12月,位元組跳動Seed團隊發布新一代音視頻創作模型
Seedance 1.5 pro,支持音視頻聯合生成,包括文本到音視頻合成和圖像引導生成等任務。
同月,Seed團隊發布豆包大模型1.8,針對多模態Agent場景進行定向最佳化,在工具調用、複雜指令遵循和OS Agent能力上顯著提升。
同月,Seed團隊推出形式化數學推理專用模型Seed Prover 1.5,該模型在16.5小時內針對IMO 2025的前5道題目生成了完整可編譯驗證的Lean證明代碼,換算成績為35/42,達到此前IMO評分標準的金牌分數線。
2025年11月發布基於單Transformer架構的Depth Anything 3(DA3)技術,實現單圖/多視角圖像/視頻的多模態3D重建,該模型在相機定位精度提升35.7%、幾何重建準確率提升23.6%。機器人團隊整體併入Seed大模型體系並設立Seed Robotics,同步推出20自由度靈巧手ByteDexter。
此外,
火山引擎推出“AI節省計畫”,通過階梯式折扣幫助企業最高節省47%的成本,並開放豆包大模型API、Seedance視頻生成API等核心能力,進一步完善開發者生態。
硬體生態布局
2025年下半年,
位元組跳動加快了AI硬體的布局,與歌爾股份合作開發的
AR眼鏡預計於2026年量產;OlaFriend AI耳機第二代產品進入研發測試階段,擬新增健康監測、智慧型降噪功能;PicoVR設備接入豆包多模態能力,支持語音控制、虛擬人互動、AI生成VR內容。