Langfuse 开源 LLM 应用可观测性平台

Langfuse Cloud · Self Host · Demo

Langfuse 是一个开源 LLM 工程平台，帮助团队协作开发、监控、评估和调试 AI 应用。Langfuse 可在几分钟内完成自托管，并已在大量实际场景中得到充分验证。我们自豪地采用 ClickHouse 开源数据库构建。

Langfuse 正在快速发展（过去 6 个月里，我们的团队规模翻了一番）。自 2026 年 1 月起，我们成为 ClickHouse 的一部分，目前正在欧盟范围内招聘采用混合办公模式的工程师。我们期待热爱开源和优秀开发者体验的工程师加入。查看开放职位 →

LLM 应用可观测性：为应用接入观测能力，并开始向 Langfuse 采集 trace，从而追踪 LLM 调用，以及应用中其他相关逻辑，例如 retrieval、embedding 或 Agent 操作。你可以检查和调试复杂日志及用户 session。通过交互式 Demo 即可体验这些功能。

LLM 应用可观测性：为应用接入观测能力，并开始向 Langfuse 采集 trace，从而追踪 LLM 调用，以及应用中其他相关逻辑，例如 retrieval、embedding 或 Agent 操作。你可以检查和调试复杂日志及用户 session。通过交互式 Demo 即可体验这些功能。

Prompt Management 可帮助你集中管理 prompt、进行版本控制，并通过团队协作持续迭代。得益于服务端和客户端强大的缓存机制，你可以迭代 prompt，而不会给应用增加延迟。

Prompt Management 可帮助你集中管理 prompt、进行版本控制，并通过团队协作持续迭代。得益于服务端和客户端强大的缓存机制，你可以迭代 prompt，而不会给应用增加延迟。

评估是 LLM 应用开发工作流的关键环节，Langfuse 能够适应你的不同需求。它支持 LLM-as-a-judge、Code evaluator、用户反馈收集、人工标注，以及通过 APIs/SDKs 构建自定义评估流水线。

评估是 LLM 应用开发工作流的关键环节，Langfuse 能够适应你的不同需求。它支持 LLM-as-a-judge、Code evaluator、用户反馈收集、人工标注，以及通过 APIs/SDKs 构建自定义评估流水线。

Datasets 可用于构建评估 LLM 应用所需的测试集和基准。它支持持续改进、部署前测试、结构化实验、灵活评估，并能与 LangChain、LlamaIndex 等框架无缝集成。

Datasets 可用于构建评估 LLM 应用所需的测试集和基准。它支持持续改进、部署前测试、结构化实验、灵活评估，并能与 LangChain、LlamaIndex 等框架无缝集成。

LLM Playground 是一款用于测试和迭代 prompt 及模型配置的工具，可以缩短反馈周期，加速开发。当你在 tracing 中发现不理想的结果时，可以直接跳转到 Playground 进行迭代。

LLM Playground 是一款用于测试和迭代 prompt 及模型配置的工具，可以缩短反馈周期，加速开发。当你在 tracing 中发现不理想的结果时，可以直接跳转到 Playground 进行迭代。

完整的 API：Langfuse 经常被用于支持定制化的 LLMOps 工作流，同时通过 API 使用 Langfuse 提供的各种基础组件。目前提供 OpenAPI spec、Postman collection，以及适用于 Python 和 JS/TS 的 typed SDKs。

完整的 API：Langfuse 经常被用于支持定制化的 LLMOps 工作流，同时通过 API 使用 Langfuse 提供的各种基础组件。目前提供 OpenAPI spec、Postman collection，以及适用于 Python 和 JS/TS 的 typed SDKs。

由 Langfuse 团队提供托管部署，免费额度充足，无需信用卡。

在你自己的基础设施上运行 Langfuse：

本地（docker compose）：使用 Docker Compose，只需 5 分钟即可在自己的计算机上运行 Langfuse。# Get a copy of the latest Langfuse repository git clone --depth=1 https://github.com/langfuse/langfuse.git cd langfuse # Run the langfuse docker compose docker compose up

本地（docker compose）：使用 Docker Compose，只需 5 分钟即可在自己的计算机上运行 Langfuse。

# Get a copy of the latest Langfuse repository
git clone --depth=1 https://github.com/langfuse/langfuse.git
cd langfuse

# Run the langfuse docker compose
docker compose up

VM：使用 Docker Compose，在单台 Virtual Machine 上运行 Langfuse。

VM：使用 Docker Compose，在单台 Virtual Machine 上运行 Langfuse。

Kubernetes（Helm）：使用 Helm，在 Kubernetes 集群上运行 Langfuse。这是生产环境的首选部署方式。

Kubernetes（Helm）：使用 Helm，在 Kubernetes 集群上运行 Langfuse。这是生产环境的首选部署方式。

Terraform Templates：AWS、Azure、GCP

Terraform Templates：AWS、Azure、GCP

有关架构和配置选项的更多信息，请参阅自托管文档。

正在自托管 Langfuse？订阅自托管更新列表，即可通过电子邮件获知开源 Langfuse 的重要功能和新版本——只发送自托管相关更新，不含营销内容。

与 Langfuse 集成的 Packages：

为应用接入观测能力，并开始向 Langfuse 采集 trace，从而追踪 LLM 调用，以及应用中其他相关逻辑，例如 retrieval、embedding 或 Agent 操作。你可以检查和调试复杂日志及用户 session。

1️⃣ 创建新项目

创建 Langfuse 账户或进行自托管

在项目设置中创建新的 API credentials

2️⃣ 记录你的第一次 LLM 调用

@observe() decorator 可以让任何 Python LLM 应用的 tracing 变得简单。在本快速入门中，我们还会使用 Langfuse OpenAI integration，自动捕获所有模型参数。

没有使用 OpenAI？请参阅我们的文档，了解如何记录其他模型和框架。

pip install langfuse openai

LANGFUSE_SECRET_KEY="sk-lf-..."
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://cloud.langfuse.com" # 🇪🇺 EU region
# LANGFUSE_BASE_URL="https://us.cloud.langfuse.com" # 🇺🇸 US region

from langfuse import observe
from langfuse.openai import openai # OpenAI integration

@observe()
def story():
    return openai.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "What is Langfuse?"}],
    ).choices[0].message.content

@observe()
def main():
    return story()

main()

3️⃣ 在 Langfuse 中查看 trace

在 Langfuse 中查看你的语言模型调用和其他应用逻辑。

Langfuse 中的公开 trace 示例

寻找问题的答案：

我们的文档是寻找答案的最佳起点。文档内容全面，我们也投入了大量时间进行维护。你还可以通过 GitHub 为文档提出修改建议。

Langfuse FAQs 汇总了最常见问题的答案。

使用“Ask AI”立即获得问题的答案。

你可以在 GitHub Discussions 的公开 Q&A 中提出任何问题。请尽可能提供详细信息（例如代码片段、截图和背景信息），以便我们理解你的问题。

在 GitHub Discussions 上提交功能请求。

在 GitHub Issues 上报告 Bug。

如果问题对时效性要求较高，请通过应用内聊天组件联系我们。

欢迎你的贡献！

在 GitHub Discussions 中为 Ideas 投票。

创建 Issue 或参与 Issue 讨论。

提交 PR——有关如何配置开发环境的详细说明，请参阅 CONTRIBUTING.md。

除 ee 文件夹外，本仓库采用 MIT license。有关更多信息，请参阅 LICENSE 和文档。

我们将此代码库部署在基于 Linux Alpine Image（source）的 Docker container 中。你可以在 web/Dockerfile 和 worker/Dockerfile 中找到 Dockerfile。

❤️ 使用 Langfuse 的开源项目

使用 Langfuse 的热门 Python 开源项目，按 star 数量排序（Source）：

🔒 安全与隐私

我们高度重视数据安全和隐私。有关更多信息，请参阅我们的 Security and Privacy 页面。

默认情况下，Langfuse 会自动将自托管实例的基本使用统计信息报告给一个集中式服务器（PostHog）。

了解 Langfuse 的使用方式，并改进最相关的功能。

追踪整体使用情况，用于内部和外部报告（例如融资材料）。

telemetry 不包含原始 trace、prompt、observation、score 或 dataset 内容。我们在 telemetry 文档中记录了所收集的确切字段、数据发送位置以及相关实现代码。

对于 Langfuse OSS，可以通过设置 TELEMETRY_ENABLED=false 选择退出。