Hunyuan-7B

Hunyuan-7B是騰訊混元語言開源模型系列中的小尺寸開源語言模型,於2025年8月發布並於9月1日正式開源。該模型支持33種語言互譯,在Flores200等開源測試集表現領先,其參數量為70億,適用於消費級顯示卡和移動終端部署。

該模型衍生出多款垂直領域子模型:Hunyuan-MT-7B翻譯模型採用Shy框架和GRPO算法,在國際機器翻譯賽事WMT2025中獲得30個語種第一;ARC-Hunyuan-Video-7B視頻理解模型新增音頻編碼器和時間戳疊加機制,在H20 GPU上處理1分鐘視頻僅需10秒。全系列模型兼容Arm、高通等晶片平台,通過FP8量化技術提升30%性能,已套用於騰訊會議、企業微信等產品的多語言處理和長文本理解場景。

基本介紹

  • 中文名:Hunyuan-7B
  • 外文名:Hunyuan-7B
  • 類型:模型
研發背景,發展歷史,核心技術,核心團隊,重要事件,社會價值,

研發背景

混元是騰訊開源的高效大型語言模型系列,旨在適應多種計算環境下的多樣化部署。騰訊開源了一系列混元Dense模型,包括預訓練和指令調優版本,參數規模分別為0.5B、1.8B、4B和7B。
這些模型消費級顯示卡即可運行,適用於筆記本電腦、手機、智慧型座艙、智慧型家居等低功耗場景,且支持垂直領域低成本微調。Hunyuan-7B是騰訊混元語言開源模型系列中的小尺寸開源語言模型,適用於消費級顯示卡和移動終端部署。

發展歷史

2025年7月30日,Hunyuan-7B系列模型在Hugging Face上開源。2025年8月 4 日,騰訊混元宣布推出Hunyuan-7B。 2025年8月5日,騰訊宣布開源混元Dense模型,包括Hunyuan-7B-Pretrain和Hunyuan-7B-Instruct。

核心技術

Hunyuan-7B支持混合推理,包含快速和慢速思考模式。該模型原生支持256K上下文視窗,具備超長上下文理解能力。Hunyuan-7B針對代理任務進行了最佳化,增強其代理能力。模型利用分組查詢注意力(GQA)並支持多種量化格式,實現高效推理。
基準測試顯示,Hunyuan-7B-Pretrain在MMLU上得分為79.82,在BBH為82.95,在GSM8K為88.25。Hunyuan-7B-Instruct在主題基準測試中,數學AIME 2024得分為81.1,科學GPQA-Diamond為60.1,編程Livecodebench為57,推理BBH為87.8。
量化壓縮使用AngleSlim工具生成FP8和INT4量化模型,FP8量化採用靜態量化,Int4量化使用GPTQ和AWQ算法。量化基準測試顯示,Hunyuan-7B-Instruct在DROP基準上,FP8量化得分為86.0,與原始模型性能相近。

核心團隊

在2025年WMT2025比賽中,騰訊混元Hunyuan-MT-7B拿下了全部31個語種比賽中的30個第1名。該項目使用Hunyuan-7B作為基礎模型,訓練數據來源於OPUS Collection、ParaCrawl、UN Parallel Corpus等公開數據集,以及WMT歷史數據。

重要事件

2025年7月30日,Hunyuan-7B系列模型在Hugging Face上正式開源。2025年8月底,在國際機器翻譯賽事WMT2025中,Hunyuan-MT-7B模型獲得了全部31個語種比賽中的30個第一名。騰訊混元翻譯模型已經接入騰訊會議、企業微信、QQ瀏覽器、翻譯君翻譯、騰訊海外客服翻譯等業務。

社會價值

Hunyuan-7B的推出,是騰訊混元大模型持續開源的一大舉措,也進一步豐富了混元開源模型體系,可為開發者和企業提供更多尺寸的模型選擇。

相關詞條

熱門詞條

聯絡我們