LazyLLM

LazyLLM是商湯科技在2025全球開發者先鋒大會上發布的開源低代碼大模型套用開發框架，已在GitHub開源。該框架通過模組化設計簡化開發流程，支持開發者以最低10行代碼快速構建多Agent大模型套用，提供pipeline、parallel、switch等工作流定義模組，實現意圖識別、知識庫檢索與大模型能力的積木式拼接。

開發者可通過統一接口調用線上模型（如ChatGPT）和本地模型（如LightLLM），支持數據流編排與模型微調服務。組裝完成的智慧型體套用可藉助輕量網關一鍵部署至網頁、企業微信等平台，兼容Windows/Linux系統及多種算力平台。商湯基於該框架構建的萬象平台，已為金融、建築等行業提供AI解決方案，並在鐵路勘察設計領域實現多模態知識問答、文檔生成等套用場景。

基本介紹

• 外文名：LazyLLM
• 別名：懶懶貓

簡介

LazyLLM定義了pipeline、parallel、diverter、if、switch、loop等工作流(Flow)，開發者可以基於任意的函式和模組來快速搭建多Agent的AI套用。支持對組裝好的多Agent套用進行一鍵部署，也支持對套用進行部分或者全部的更新。LazyLLM能讓開發者像搭積木一樣，把意圖識別、知識庫檢索能力、大模型能力等快速拼到一起，實現完整套用此外，開發者能夠更快速地完成套用的微調和功能串聯，顯著縮短開發周期。

功能

LazyLLM具備以下功能：

1. 以數據流為核心的套用開發範式，像搭積木一樣開發大模型套用
2. 為不同技術選型提供一致的使用體驗
3. 複雜套用一鍵部署：利用輕量網關實現分散式套用一鍵部署，助力用戶產品落地。
4. 多Agent編排：封裝FunctionCall、React、ReWOO、PlanAndSolve等多種Agent。
5. 跨平台：兼容多個作業系統（如Windows、MacOS或Linux）和多種IaaS平台（如裸金屬、k8s、slurm、公有雲）。