MAI-1是微軟發布的ai大模型。在性能上或能與谷歌的Gemini 1.5、Anthropic的Claude 3和OpenAI的GPT-4等知名大模型相匹敵。微軟或在2024年5月21日開始舉辦的Build開發者大會上演示這款新模型。
基本介紹
- 中文名：MAI-1
- 產品類型：微軟發布的ai大模型
簡介,發展歷史,
簡介
MAI-1是一款全新的大語言模型，擁有約5000億個參數，遠超微軟此前訓練的任何開源模型。
發展歷史
MAI-1可能借鑑了Inflection旗下模型的部分技術，有微軟員工表示，MAI-1是一款全新的大語言模型，擁有約5000億個參數，遠超微軟此前訓練的任何開源模型。不到一個月前，微軟剛推出了一款名為Phi-3的小型AI模型，其中Phi-3 mini被最佳化至可部署在手機上，擁有38億參數，經過3.3萬億token的訓練，微軟稱其性能與GPT-3.5等模型相當。
相比之下，MAI-1的規模要大得多，也需要更多的算力投入和訓練數據。為了訓練該模型，微軟已經配置了大量包含英偉達GPU的伺服器集群，並從各類來源收集訓練數據，包括由OpenAI的GPT-4生成的文本和公共網際網路數據。這或將使MAI-1與OpenAI的GPT-4處於相似的水平，據傳後者擁有超過1萬億個參數。
Phi系列模型和MAI-1的研發體現出微軟或在AI領域採取了雙重策略，一邊為移動設備開發小型本地模型，一邊開發由雲端支持的更大規模的模型。不過，即使在微軟內部，MAI-1的確切用途也尚未得到確認。
更重要的是，MAI-1體現出微軟並不希望在AI領域完全依附於合作夥伴OpenAI的技術。來自OpenAI的技術正在驅動微軟的各類生成式AI功能，包括集成在Windows中的聊天機器人。此前，有來自微軟AI平台團隊的員工抱怨稱，公司的AI戰略過於關注與OpenAI的合作關係，使得微軟對AI原創研究的預算減少。
