研發背景
混元是騰訊開源的高效大型語言模型系列,旨在適應多種計算環境下的多樣化部署。騰訊開源了一系列混元Dense模型,包括預訓練和指令調優版本,參數規模分別為0.5B、1.8B、4B和7B。
這些模型消費級顯示卡即可運行,適用於筆記本電腦、手機、智慧型座艙、智慧型家居等低功耗場景,且支持垂直領域低成本微調。Hunyuan-7B是騰訊混元語言開源模型系列中的小尺寸開源語言模型,適用於消費級顯示卡和移動終端部署。
發展歷史
2025年7月30日,Hunyuan-7B系列模型在
Hugging Face上開源。2025年8月 4 日,
騰訊混元宣布推出Hunyuan-7B。 2025年8月5日,騰訊宣布開源混元Dense模型,包括Hunyuan-7B-Pretrain和Hunyuan-7B-Instruct。
核心技術
Hunyuan-7B支持混合推理,包含快速和慢速思考模式。該模型原生支持256K上下文視窗,具備超長上下文理解能力。Hunyuan-7B針對代理任務進行了最佳化,增強其代理能力。模型利用分組查詢注意力(GQA)並支持多種量化格式,實現高效推理。
基準測試顯示,Hunyuan-7B-Pretrain在
MMLU上得分為79.82,在BBH為82.95,在
GSM8K為88.25。Hunyuan-7B-Instruct在主題基準測試中,數學AIME 2024得分為81.1,科學GPQA-Diamond為60.1,編程Livecodebench為57,推理BBH為87.8。
量化壓縮使用AngleSlim工具生成FP8和INT4量化模型,FP8量化採用靜態量化,Int4量化使用GPTQ和AWQ算法。量化基準測試顯示,Hunyuan-7B-Instruct在DROP基準上,FP8量化得分為86.0,與原始模型性能相近。
核心團隊
在2025年WMT2025比賽中,騰訊混元Hunyuan-MT-7B拿下了全部31個語種比賽中的30個第1名。該項目使用Hunyuan-7B作為基礎模型,訓練數據來源於OPUS Collection、ParaCrawl、UN Parallel Corpus等公開數據集,以及WMT歷史數據。
重要事件
2025年7月30日,Hunyuan-7B系列模型在
Hugging Face上正式開源。2025年8月底,在國際機器翻譯賽事WMT2025中,Hunyuan-MT-7B模型獲得了全部31個語種比賽中的30個第一名。騰訊混元翻譯模型已經接入
騰訊會議、
企業微信、
QQ瀏覽器、翻譯君翻譯、騰訊海外客服翻譯等業務。
社會價值
Hunyuan-7B的推出,是騰訊混元大模型持續開源的一大舉措,也進一步豐富了混元開源模型體系,可為開發者和企業提供更多尺寸的模型選擇。