MNN大模型 Android App

MNN大模型Android App是阿里巴巴基於MNN-LLM框架開發的移動端人工智慧套用，支持在Android設備本地離線運行Qwen、Gemma、Llama等大語言模型。該套用通過深度最佳化的CPU推理技術實現高效運行，數據全程本地處理無需上傳雲端，確保用戶隱私安全。

套用具備多模態互動能力，支持文本生成、圖像識別、語音轉寫及文生圖功能，內置Qwen/Gemma等主流模型的切換能力，支持最新模型Qwen-2.5-Omni-3B/7B。其開源特性與本地化部署設計適配移動端AI場景，集成擴散模型實現文本到圖像生成。

基本介紹

• 中文名： MNN大模型 Android App
• 最新模型：Qwen-2.5-Omni-3B/7B 
• 產品類型：移動端人工智慧套用

產品概述

MNN大模型Android App（又稱MNN-LLM App）是阿里巴巴基於MNN-LLM框架開發並開源的一款Android應用程式，其核心功能是允許用戶在Android手機上完全離線地運行各類大語言模型（LLM），所有數據處理均在本地完成，無需聯網，有助於保護用戶隱私。

套用支持多模態互動功能，包括文本對話、圖像描述、音頻轉文本以及基於擴散模型的文生圖，並內置了Qwen、Gemma、Llama等多種主流大語言模型供用戶選擇。

在技術層面，該套用針對移動端CPU推理進行了最佳化，以提升模型的預填充與解碼速度，實現本地化推理。

技術原理

MNN大模型Android App針對移動端CPU推理進行了深度最佳化，預填充和解碼速度顯著提升，確保高效的本地運行。套用採用模型壓縮和量化技術，減少模型體積和記憶體占用，從而提升運行效率。

支持模型

MNN大模型Android App支持多種主流大語言模型，如Qwen、Gemma、Llama、Baichuan等。該套用支持最新模型如Qwen-2.5-Omni-3B/7B。

發布與開源

MNN大模型 Android App (MNN-LLM App) 是阿里巴巴基於 MNN-LLM 框架開發並開源的一款 Android 套用。