跳到主要内容

聊天参数

在 Open WebUI 中，配置系统提示词 (System Prompt) 与高级参数 (Advanced Parameters) 拥有三个层级：单次聊天级别、模型级别以及账户级别。这种层级机制在保证灵活性与便利性的同时，又维持了结构化的管理与控制。

系统提示词与高级参数层级图表​

层级定义修改权限覆盖能力
单次聊天 (Per-Chat)针对特定聊天实例的系统提示词和高级参数用户可以修改，但无法覆盖模型专属设置被限制覆盖模型专属设置
账户级别 (Per-Account)针对特定用户账户的默认系统提示词和高级参数用户可以设置，但可能会被模型专属设置覆盖用户的个人设置可能会被模型专属设置覆盖
模型级别 (Per-Model)针对特定模型的默认系统提示词和高级参数管理员可设置，用户不可修改管理员特定的设置具有最高优先级，用户设置会被覆盖

1. 单次聊天级别 (Per-chat basis)​

  • 说明：单次聊天级别的设置是指为特定的聊天会话配置的系统提示词和高级参数。这些设置仅适用于当前的对话，不会影响后续的其他聊天。
  • 如何设置：用户可以在 Open WebUI 右侧边栏的聊天控制 (Chat Controls) 区域中，修改该次聊天会话的系统提示词和高级参数。
  • 覆盖能力：用户无法覆盖管理员已经在模型级别 (第 3 级) 预设的 系统提示词 或特定的 高级参数。这确保了一致性并严格遵循了模型的预设表现。
应用场景示例
提示

单次聊天级别： 假设用户想为某次特定对话设置一个自定义系统提示词。他们可以通过打开聊天控制 (Chat Controls) 侧边栏，修改其中的系统提示词 (System Prompt) 输入框。这些更改将仅对当前聊天会话生效。

2. 账户级别 (Per-account basis)​

  • 说明：账户级别的设置是指针对特定用户账户配置的默认系统提示词和高级参数。任何用户自定义的更改都可以在更深层级未定义时，作为默认的回退配置生效。
  • 如何设置：用户可以在 Open WebUI 的设置 (Settings) > 通用 (General) 菜单中，为自己的账户设置默认的系统提示词和高级参数。
  • 覆盖能力：用户有权在其账户上设置自己的系统提示词，但必须注意，如果管理员已经在模型级别（针对当前正在使用的特定模型）设置了 系统提示词 或特定的 高级参数，这些账户层级的参数仍会被模型级设置所覆盖。
应用场景示例
提示

账户级别： 假设用户想要为其整个账户设置一个全局默认的系统提示词。他们可以通过进入设置 (Settings) 菜单并修改其中的系统提示词 (System Prompt) 字段来实现。

3. 模型级别 (Per-model basis)​

  • 说明：模型级别的设置是指为特定模型配置的默认系统提示词和高级参数。这些设置适用于所有使用该模型的聊天会话。
  • 如何设置：管理员可以在 Open WebUI 的工作区 (Workspace) > 模型 (Models) 中，为特定模型配置默认的系统提示词和高级参数。
  • 覆盖能力：用户 (User) 账户被限制修改模型级别 (第 3 级) 的 系统提示词 或特定的 高级参数。此限制可以防止普通用户不当更改默认系统设置。
  • 上下文长度锁定 (Context length preservation)：当管理员在工作区 (Workspace) 中手动设置了模型的 系统提示词 或特定的 高级参数 时，用户 (User) 账户将无法在通用设置 (General Settings) 或聊天控制 (Chat Controls) 中覆盖或调整这些预设。这确保了人设与参数的一致性，并避免了由于普通用户随意更改上下文长度等配置而导致模型被频繁重载的问题。
  • 模型优先级 (Model precedence)：如果管理员在工作区中预先设置了模型的 系统提示词 或特定的 高级参数 值，则用户 (User) 账户在通用设置 (General Settings) 或聊天控制 (Chat Controls) 中所做的任何上下文长度修改都将被系统忽略，保持该模型预先配置的值。请注意，管理员未触及的参数，用户仍可以在账户级别或单次聊天级别进行手动调整。
应用场景示例
提示

模型级别： 假设管理员想要为某个特定模型设置默认的系统提示词。他们可以通过进入模型 (Models) 管理，修改对应模型的系统提示词 (System Prompt) 字段。任何使用该模型的聊天会话都将自动应用此系统提示词和高级参数。

优化系统提示词设置以获得最大灵活性​

实用建议

此建议同时适用于管理员与普通用户。为了在系统提示词的使用中获得最大的灵活性，我们建议考虑采用以下配置方案：

  • 主系统提示词（例如：用于赋予 LLM 基本人设与性格特征）填写在您的通用设置 (General Settings) 的系统提示词 (System Prompt) 字段中。这会在账户级别对其进行配置，并使该提示词在您所有的 LLM 中作为基底生效，无需在工作区 (Workspace) 中为每个模型单独调整。

  • 次级系统提示词（例如：给 LLM 安排的特定执行任务），可根据情况将其放置在聊天控制 (Chat Controls) 侧边栏（单次聊天级别）或由管理员配置在工作区 (Workspace) 的模型 (Models) 管理中（模型级别）。这样，您的账户级系统提示词将可以与聊天控制提供的单次聊天提示词或模型提供的模型级提示词协同叠加工作。

  • 作为管理员，您应当在 模型 (Models) 页面中基于各个模型进行 LLM 参数的细致分配，以获得最佳的灵活性。对于这些次级系统提示词，请务必以最大化灵活性、最小化跨账户/跨会话调整成本的方式来配置。无论是管理员账户还是普通用户账户，理解聊天控制 (Chat Controls) 与模型 (Models) 中系统提示词应用于 LLM 的优先级关系都至关重要。

This content is for informational purposes only and does not constitute a warranty, guarantee, or contractual commitment. Open WebUI is provided "as is." See your license for applicable terms.