Langfuse是一款開源的大型語言模型（LLM）工程平台，由Marc Klingen、Maximilian Deichmann和Clemens Rawert於2022年創立。該平台專注於為LLM應用程式提供全生命周期的開發支持，包括追蹤、評估、提示管理和性能監控，2026年被Clickhouse收購。
該工具通過Python和JavaScript/TypeScriptSDK實現集成，兼容LangChain、LlamaIndex等主流框架，並提供Docker容器化部署方案。其核心功能包括全鏈路執行追蹤、多模態數據支持、延遲與Token消耗監控，支持用戶反饋收集及LLM-as-Judge自動化評估。平台內置提示版本管理與A/B測試功能，可通過可視化日誌分析最佳化模型性能。
基本介紹
- 外文名：Langfuse
- 最近更新時間：2023年8月31日
特色功能
多種語言集成：Langfuse提供了Python和JavaScript/TypeScript的SDK，方便開發者集成到現有套用中。此外，還支持與OpenAI SDK的集成，適用於基於LangChain等框架開發的套用。
快速部署：Langfuse支持通過Docker快速部署，可以使用docker-compose一鍵啟動（含PostgreSQL容器）。
性能監控：全鏈路追蹤與性能監控，如延遲、Token成本，並生成可視化日誌分析。
