研發背景
MLX是
蘋果公司專為
Apple Silicon晶片設計的機器學習框架,旨在高效訓練和部署AI模型,為蘋果設備提供官方機器學習解決方案,降低開發門檻。其設計靈感來源於NumPy、
PyTorch、Jax和ArrayFire等框架,提供熟悉的API,如類似NumPy的Python API和類似PyTorch的高級包,以保持用戶友好性和靈活性。MLX於2023年12月由蘋果宣布推出,旨在為Apple Silicon提供高效的機器學習框架。
發展歷程
2023年12月6日,蘋果機器學習研究中心在GitHub上開源了專為
Apple Silicon晶片設計的機器學習框架MLX。該框架旨在保證用戶友好的前提下,支持高效地在蘋果晶片上訓練及部署模型。
2024年6月16日,阿里巴巴Qwen團隊宣布推出支持蘋果MLX架構的Qwen3模型,提供了32個MLX適配模型,涵蓋多種尺寸和精度。這使得開發者能在MacBook、iPad等蘋果設備上利用其神經引擎和
統一記憶體架構進行高效推理。
2025年下半年,MLX框架開始新增對英偉達CUDA的實驗性支持。該項目由社區開發者主導,該功能允許開發者將在Apple Silicon Mac上基於MLX開發的套用代碼導出至CUDA環境運行。
2025年,蘋果在macOS 26.2 Beta中更新了MLX框架,使其可以調用M5晶片的
神經加速器。這使得基於MLX部署的第三方AI模型也能利用蘋果晶片的專用硬體提升性能。
核心技術
MLX是專為
Apple Silicon統一記憶體架構最佳化的機器學習框架,其核心優勢在於實現零拷貝數據共享。MLX採用統一記憶體模型,陣列保存在共享記憶體中,操作可在任何支持的設備上運行而無需移動數據。計算圖採用動態構建方式,改變函式參數的形狀不會導致編譯變慢,便於調試。計算採用惰性執行,陣列只有在需要時才被實例化,有助於最佳化資源使用。框架支持
自動微分、自動向量化和計算圖最佳化等可組合函式變換。操作可在任何支持的設備上運行,如CPU和GPU。
運營模式
MLX是一個開源機器學習框架,其代碼由蘋果機器學習研究團隊在GitHub上開源並維護。該框架支持開發者直接在搭載
Apple Silicon的
Mac上進行套用開發,並可實驗性地將代碼導出至
CUDA環境,在NVIDIA GPU等硬體上運行。這一特性旨在幫助開發者降低硬體成本,允許其在開發測試階段使用Apple Silicon設備,僅在需要大規模算力的部署階段使用NVIDIA硬體。MLX正積極構建其生態體系,獲得了包括
vLLM、llama.cpp、
Ollama在內的多種主流AI工具與平台的支持。
核心團隊
MLX團隊隸屬於蘋果機器學習研究團隊(MLR),是一小群工程師。團隊關鍵人物包括蘋果機器學習研究團隊(MLR)研究科學家Awni Hannun,其曾公開演示使用MLX框架運行Llama模型。2025年,該團隊工程師曾因薪酬問題和管理層不重視集體“威脅”離開,
蘋果公司隨後通過提供反報價成功留住了團隊。
重要事件
2023年12月,蘋果開源其專為
Apple Silicon設計的機器學習框架MLX。MLX是專門為機器學習研究人員設計的開源陣列框架,旨在有效地訓練和部署AI模型。
2025年6月,
阿里巴巴集團宣布其Qwen3模型全面適配MLX架構,推出了涵蓋多種尺寸和精度的MLX適配模型。Qwen3模型支持MLX格式,可以充分利用蘋果設備的高性能神經引擎和統一記憶體架構。
2026年3月,本地AI工具
Ollama發布新版本,全面接入蘋果MLX框架。此次更新顯著提升了在搭載
Apple Silicon的Mac上運行本地大模型的性能,得益於MLX對蘋果晶片硬體的最佳化。Ollama新版本在提示預填階段的處理速度提升約1.6倍,在生成回復階段的速度幾乎提升一倍。