摩耳

摩耳（MooER）是由摩爾執行緒開發的開源音頻理解大模型，支持中文和英文語音識別及中譯英語音翻譯功能。該模型是業界首個完全基於國產全功能GPU訓練和推理的大型開源語音模型，於2024年8月23日正式開源並在GitHub公布項目代碼。其開源內容包含模型架構、推理代碼、預訓練權重及5000小時數據訓練模型。

摩耳模型基於夸娥智算平台完成訓練，結構由Encoder、Adapter和Decoder三部分組成，採用Paraformer與Qwen2-7B初始化模組。訓練過程使用LoRA技術僅更新2%的LLM參數，並通過DeepSpeed框架及BF16精度最佳化效率。該模型在Covost2測試集取得25.2 BLEU分數，中文測試集CER為4.21%，英文測試集WER達17.98%。已落地穆莎數字人等案例。

基本介紹

• 中文名：摩耳
• 外文名：MooER

介紹

MooER是業界首個基於國產全功能GPU進行訓練和推理的大型開源語音模型，不僅支持中文和英文的語音識別，還具備中譯英的語音翻譯能力。

發展歷程

8月23日，摩爾執行緒宣布開源音頻理解大模型—MooER（摩耳）。