MLX

MLX是由蘋果公司開發的專為Apple Silicon晶片最佳化的開源機器學習陣列框架,宣布推出。該框架旨在高效地在蘋果晶片上訓練和部署模型,其設計參考了NumPy、PyTorch等框架,並利用蘋果晶片的統一記憶體架構,允許數據在CPU與GPU間共享,以提升計算效率。

此後,MLX持續獲得生態支持。2024年6月,阿里巴巴Qwen3模型宣布支持MLX架構。2025年,MLX在macOS更新中新增了對M5晶片神經網路加速器的調用支持,並開始新增對英偉達CUDA的導出支持。本地AI工具Ollama接入MLX框架,提升了在Mac上運行大語言模型的速度。在發布時也宣布支持MLX平台。

基本介紹

  • 外文名:MLX
  • 上市時間:2023年12月
研發背景,發展歷程,核心技術,運營模式,核心團隊,重要事件,

研發背景

MLX是蘋果公司專為Apple Silicon晶片設計的機器學習框架,旨在高效訓練和部署AI模型,為蘋果設備提供官方機器學習解決方案,降低開發門檻。其設計靈感來源於NumPy、PyTorch、Jax和ArrayFire等框架,提供熟悉的API,如類似NumPy的Python API和類似PyTorch的高級包,以保持用戶友好性和靈活性。MLX於2023年12月由蘋果宣布推出,旨在為Apple Silicon提供高效的機器學習框架。

發展歷程

2023年12月6日,蘋果機器學習研究中心在GitHub上開源了專為Apple Silicon晶片設計的機器學習框架MLX。該框架旨在保證用戶友好的前提下,支持高效地在蘋果晶片上訓練及部署模型。
2024年6月16日,阿里巴巴Qwen團隊宣布推出支持蘋果MLX架構的Qwen3模型,提供了32個MLX適配模型,涵蓋多種尺寸和精度。這使得開發者能在MacBook、iPad等蘋果設備上利用其神經引擎和統一記憶體架構進行高效推理。
2025年下半年,MLX框架開始新增對英偉達CUDA的實驗性支持。該項目由社區開發者主導,該功能允許開發者將在Apple Silicon Mac上基於MLX開發的套用代碼導出至CUDA環境運行。
2025年,蘋果在macOS 26.2 Beta中更新了MLX框架,使其可以調用M5晶片的神經加速器。這使得基於MLX部署的第三方AI模型也能利用蘋果晶片的專用硬體提升性能。
2026年3月31日,本地AI工具Ollama發布0.19預覽版,宣布全面接入MLX框架。此次集成提升了在搭載Apple Silicon晶片的Mac上運行本地大模型的推理速度,尤其是在配備M5系列晶片的機型上。

核心技術

MLX是專為Apple Silicon統一記憶體架構最佳化的機器學習框架,其核心優勢在於實現零拷貝數據共享。MLX採用統一記憶體模型,陣列保存在共享記憶體中,操作可在任何支持的設備上運行而無需移動數據。計算圖採用動態構建方式,改變函式參數的形狀不會導致編譯變慢,便於調試。計算採用惰性執行,陣列只有在需要時才被實例化,有助於最佳化資源使用。框架支持自動微分、自動向量化和計算圖最佳化等可組合函式變換。操作可在任何支持的設備上運行,如CPU和GPU。

運營模式

MLX是一個開源機器學習框架,其代碼由蘋果機器學習研究團隊在GitHub上開源並維護。該框架支持開發者直接在搭載Apple Silicon的Mac上進行套用開發,並可實驗性地將代碼導出至CUDA環境,在NVIDIA GPU等硬體上運行。這一特性旨在幫助開發者降低硬體成本,允許其在開發測試階段使用Apple Silicon設備,僅在需要大規模算力的部署階段使用NVIDIA硬體。MLX正積極構建其生態體系,獲得了包括vLLM、llama.cpp、Ollama在內的多種主流AI工具與平台的支持。

核心團隊

MLX團隊隸屬於蘋果機器學習研究團隊(MLR),是一小群工程師。團隊關鍵人物包括蘋果機器學習研究團隊(MLR)研究科學家Awni Hannun,其曾公開演示使用MLX框架運行Llama模型。2025年,該團隊工程師曾因薪酬問題和管理層不重視集體“威脅”離開,蘋果公司隨後通過提供反報價成功留住了團隊。

重要事件

2023年12月,蘋果開源其專為Apple Silicon設計的機器學習框架MLX。MLX是專門為機器學習研究人員設計的開源陣列框架,旨在有效地訓練和部署AI模型。
2025年6月,阿里巴巴集團宣布其Qwen3模型全面適配MLX架構,推出了涵蓋多種尺寸和精度的MLX適配模型。Qwen3模型支持MLX格式,可以充分利用蘋果設備的高性能神經引擎和統一記憶體架構。
2026年3月,本地AI工具Ollama發布新版本,全面接入蘋果MLX框架。此次更新顯著提升了在搭載Apple Silicon的Mac上運行本地大模型的性能,得益於MLX對蘋果晶片硬體的最佳化。Ollama新版本在提示預填階段的處理速度提升約1.6倍,在生成回復階段的速度幾乎提升一倍。

相關詞條

熱門詞條

聯絡我們