Mistral NeMo是由Mistral AI與NVIDIA合作構建的12B模型，具有128k個令牌的大型上下文視窗。該模型專為全球多語言應用程式設計，支持英語、法語、德語、西班牙語、義大利語、葡萄牙語、中文、日語、韓語、阿拉伯語和印地語等多種語言。
基本介紹
- 外文名：Mistral NeMo
- 技術背景：Mistral AI
產品功能,發展歷史,
產品功能
企業級多語言處理：支持12種語言的高效分詞與處理。
128K長上下文視窗：處理複雜文檔與連續對話任務。
低資源部署最佳化：單張RTX GPU可本地運行FP8推理。
指令微調增強：精準執行邏輯推理與代碼生成。
NIM雲原生集成：通過英偉達微服務實現安全部署。
發展歷史
2024年7月19日，英偉達與Mistral AI聯合發布12B參數模型，專注企業級場景與FP8量化支持；7月22日，納入英偉達NIM推理微服務，提升安全性與部署效率；7月29日，最佳化本地部署能力，支持單塊RTX 4500 GPU運行，降低企業使用門檻；9月17日，通過Apache 2.0許可證開放下載，加速企業本地部署與商業化套用；10月8日，作為Mistral 7B的繼任者，強化多語言支持與128k上下文視窗，兼容現有系統。
