混元Turbo

混元Turbo是騰訊公司於2024年9月5日在全球數字生態大會上發布的新一代人工智慧大模型。該模型採用MoE（Mixture of Experts）架構設計，相較前代產品推理效率提升100%、推理成本降低50%，在中文大模型測評基準SuperCLUE的2024年8月報告中以總分74.33分位列國內第一。定價策略方面，其輸入輸出價格較前代下降50%，支持通過騰訊雲平台快速接入，目前已套用於騰訊元寶、QQ等近700個內部業務場景。

基本介紹

• 發布時間：2024年9月5日 
• 架構類型：MoE專家混合架構
• 推理效率：較前代提升100%
• 輸入定價：0.015元/千tokens 
• 評測排名：SuperCLUE國內第一
• 套用場景：覆蓋700+業務模組  

技術架構

採用MoE（Mixture of Experts）混合專家架構，通過最佳化核心上下文抓取機制實現模型參數高效利用。該架構支持動態路由選擇專家模組，在保證模型規模的同時提升推理效率，千卡集群通信時間縮短至行業平均水平的一半。

性能提升

相較前代模型實現多項突破：

• 訓練效率提升108%，萬卡checkpoint寫入耗時僅1分鐘
• 解碼速度提升20%，每秒token生成量達業界領先水平
• 複雜數學解題能力提升38%，代碼生成準確率增加32%

成本與定價

2024年9月上線新版定價體系：

• 輸入token定價0.015元/千tokens，較前代下降50%
• 輸出token定價0.05元/千tokens，降幅達50%
• 支持API接口、專屬模型定製及精調模型三種接入方式

套用場景

已接入騰訊內部近700個業務模組：

• 騰訊於2024年9月5日推出的大模型混元Turbo
• 騰訊於2024年9月5日推出的大模型
• 微信讀書接入混元Turbo大模型提升個性化推薦精度
• 騰訊雲AI代碼助手在模型訓練階段通過最佳化核心上下文抓取使代碼生成率提升約5%

測評表現

根據2024年8月《中文大模型基準測評報告》：

• 總得分74.33分位居國內榜首
• Hard任務得分74.33分，國內唯一突破70分
• 理科領域推理能力接近GPT-4o水平
• 文本創作維度在SuperCLUE評測中位列國內第一

技術支撐

基於騰訊雲智算底座實現：

• 千卡集群單日故障數低至0.16，為行業均值1/3
• 集群部署周期縮短至1天，快於行業平均5天
• 支持單日千億級tokens吞吐量
• 配套發布知識引擎、圖像/視頻創作引擎三款PaaS工具