跳到主要内容

Langfuse ⚠️

注意

本教程为社区贡献,Open WebUI 团队不提供官方支持。它仅作为如何针对特定用例自定义 Open WebUI 的演示。想要贡献?请查看贡献教程。

危险

本教程已被报告为已过时 / 陈旧。 它可能在较新版本的 Open WebUI 或 Langfuse 中无法正常工作。

欢迎通过提交 PR 来使其重新保持最新:https://github.com/open-webui/docs

Langfuse 与 Open WebUI 集成

LangfuseGitHub)为 Open WebUI 提供开源的可观测性与评估。通过启用 Langfuse 集成,您可以使用 Langfuse 追踪您的应用数据,以开发、监控和改进 Open WebUI 的使用,包括:

如何将 Langfuse 与 Open WebUI 集成

Langfuse Integration Langfuse 集成步骤

Open WebUI 中的 Pipelines 是一个与 UI 无关的 OpenAI API 插件框架。它允许注入插件,拦截、处理并将用户 Prompt 转发给最终的 LLM,从而增强对 Prompt 处理的控制和自定义。

要使用 Langfuse 追踪您的应用数据,您可以使用 Langfuse Pipeline,它能够实现对消息交互的实时监控和分析。

快速入门指南

步骤 1:设置 Open WebUI

确保 Open WebUI 正在运行。如需了解详情,请查看 Open WebUI 文档

步骤 2:设置 Pipelines

使用 Docker 启动 Pipelines。使用以下命令启动 Pipelines:

docker run -p 9099:9099 --add-host=host.docker.internal:host-gateway -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main

步骤 3:将 Open WebUI 连接到 Pipelines

管理员设置(Admin Settings)中,新建并保存一个 OpenAI API 类型的连接,填写以下详细信息:

  • URL: http://host.docker.internal:9099(这是之前启动的 Docker 容器运行的地方)。
  • 密码: 0p3n-w3bu!(标准密码)

Open WebUI Settings

步骤 4:添加 Langfuse 过滤器 Pipeline

接下来,导航至管理员设置(Admin Settings)-> Pipelines 并添加 Langfuse Filter Pipeline。指定 Pipelines 正在监听 http://host.docker.internal:9099(如前配置),并通过 Install from Github URL(从 Github URL 安装)选项安装 Langfuse Filter Pipeline,输入以下 URL:

https://github.com/open-webui/pipelines/blob/main/examples/filters/langfuse_v3_filter_pipeline.py

现在,在下方添加您的 Langfuse API 密钥。如果您尚未注册 Langfuse,可以通过在此处创建账户来获取您的 API 密钥。

Open WebUI add Langfuse Pipeline

备注

注意: 如果要在启用流式传输(Streaming)时捕获 OpenAI 模型的用量(Token 计数),您必须导航到 Open WebUI 中的模型设置,并在 Capabilities(能力)下方勾选 “Usage” 复选框

步骤 5:在 Langfuse 中查看您的 Traces

您现在可以与您的 Open WebUI 应用进行交互,并在 Langfuse 中查看 Traces。

Langfuse UI 中的 Trace 示例

Open WebUI Example Trace in Langfuse

了解更多

有关 Open WebUI Pipelines的全面指南,请访问 此帖子

This content is for informational purposes only and does not constitute a warranty, guarantee, or contractual commitment. Open WebUI is provided "as is." See your license for applicable terms.