跳到主要内容

Helicone 与 Open WebUI 集成

注意

本教程为社区贡献，Open WebUI 团队不提供官方支持。它仅作为如何针对特定用例自定义 Open WebUI 的演示。想要贡献？请查看贡献教程。

Helicone 是一个开源的 LLM 可观测性平台，供开发人员监控、调试和改进生产就绪的应用程序，包括您的 Open WebUI 部署。

通过启用 Helicone，您可以记录 LLM 请求、评估和实验 Prompt，并获得即时洞察，帮助您充满信心地将更改推送到生产环境。

  • 跨模型类型的统一视图进行实时监控：通过单个界面监控本地 Ollama 模型和云端 API
  • 请求可视化与重放：准确查看哪些 Prompt 被发送到了 Open WebUI 中的每个模型，以及 LLM 生成的输出以供评估
  • 本地 LLM 性能跟踪：测量您自托管模型的响应时间和吞吐量
  • 按模型进行的使用情况分析：比较 Open WebUI 设置中不同模型之间的使用模式
  • 用户分析以了解交互模式
  • 调试功能以排查模型响应的问题
  • 成本跟踪，用于跟踪您在不同服务商之间的 LLM 使用成本

如何将 Helicone 与 OpenWebUI 集成​

步骤 1：创建 Helicone 账号并生成您的 API key​

创建 Helicone 账号 并登录以生成 API key。

— 请确保生成一个 只写 API key（write only API key）。这可以确保您只允许将数据记录 to Helicone，而不允许其读取您的私有数据。

步骤 2：创建 OpenAI 账号并生成您的 API key​

创建 OpenAI 账号并登录 OpenAI 开发者门户（OpenAI's Developer Portal） 以生成 API key。

步骤 3：使用 Helicone 的 Base URL 运行您的 Open WebUI 应用​

要启动您的第一个 Open WebUI 应用程序，请使用 Open WebUI 文档（Open WebUI docs） 中的命令，并包含 Helicone 的 API BASE URL，以便自动进行查询和监控。

   # 设置您的环境变量
   export HELICONE_API_KEY=<YOUR_API_KEY>
   export OPENAI_API_KEY=<YOUR_OPENAI_API_KEY>

   # 运行带有 Helicone 集成的 Open WebUI
   docker run -d -p 3000:8080 \
     -e OPENAI_API_BASE_URL="https://oai.helicone.ai/v1/$HELICONE_API_KEY" \
     -e OPENAI_API_KEY="$OPENAI_API_KEY" \
     --name open-webui \
     ghcr.io/open-webui/open-webui

如果您已经部署了 Open WebUI 应用程序，请转到 Admin Panel > Settings > Connections（管理面板 > 设置 > 连接），然后点击“Managing OpenAI API Connections”（管理 OpenAI API 连接）的 + 号。更新以下属性：

  • 您的 API Base URL 将是 https://oai.helicone.ai/v1/<YOUR_HELICONE_API_KEY>
  • API KEY 将是您的 OpenAI API key。

Open WebUI Helicone Setup

步骤 4：确保监控正常工作​

要确保您的集成正常工作，请登录 Helicone 的仪表板并查看“Requests”（请求）标签页。

您应该会看到您通过 Open WebUI 界面发起的请求已经被记录到了 Helicone 中。

Example Helicone Trace

了解更多​

有关 Helicone 的全面指南，您可以查看 Helicone 文档。

This content is for informational purposes only and does not constitute a warranty, guarantee, or contractual commitment. Open WebUI is provided "as is." See your license for applicable terms.