⚙️ 聊天参数
在 Open WebUI 中,设置系统提示词和高级参数有三个级别:按聊天设置、按模型设置和按账户设置。这种分层系统在保持结构化管理和控制的同时,提供了灵活性。
系统提示词和高级参数层级图
级别 | 定义 | 修改权限 | 覆盖能力 |
---|---|---|---|
按聊天 | 特定聊天实例的系统提示词和高级参数 | 用户可以修改,但不能覆盖模型特定设置 | 限制覆盖模型特定设置 |
按账户 | 特定用户账户的默认系统提示词和高级参数 | 用户可以设置,但可能被模型特定设置覆盖 | 用户设置可以被模型特定设置覆盖 |
按模型 | 特定模型的默认系统提示词和高级参数 | 管理员可以设置,用户无法修改 | 管理员特定设置优先,用户设置可以被覆盖 |
1. 按聊天设置:
- 描述:按聊天设置是指为特定聊天实例配置的系统提示词和高级参数。这些设置仅适用于当前对话,不会影响未来的聊天。
- 如何设置:用户可以在 Open WebUI 右侧边栏的聊天控制部分修改特定聊天实例的系统提示词和高级参数。
- 覆盖能力:用户被限制覆盖管理员已按模型(#2)设置的系统提示词或特定高级参数。这确保了一致性并遵循模型特定设置。
示例用例
按聊天设置
假设用户想为特定对话设置自定义系统提示词。他们可以通过访问聊天控制部分并修改系统提示词字段来实现。这些更改仅应用于当前的聊天会话。
2. 按账户设置:
- 描述:按账户设置是指为特定用户账户配置的默认系统提示词和高级参数。任何用户特定的更改在未定义较低级别设置的情况下可以作为后备选项。
- 如何设置:用户可以在 Open WebUI 设置菜单的通用部分为其账户设置自己的系统提示词和高级参数。
- 覆盖能力:用户有能力在自己的账户上设置系统提示词,但他们必须注意,如果管理员已针对正在使用的特定模型按模型设置了系统提示词或特定高级参数,则这些参数仍可能被覆盖。
示例用例
按账户设置
假设用户想为其账户设置自己的系统提示词。他们可以通过访问设置菜单并修改系统提示词字段来实现。
3. 按模型设置:
- 描述:按模型设置是指为特定模型配置的默认系统提示词和高级参数。这些设置适用于所有使用该模型的聊天实例。
- 如何设置:管理员可以在 Open WebUI 工作区的模型部分设置特定模型的默认系统提示词和高级参数。
- 覆盖能力:用户账户被限制按模型(#3)修改系统提示词或特定高级参数。此限制可防止用户不当更改默认设置。
- 上下文长度保留:当管理员在工作区部分手动设置模型的系统提示词或特定高级参数时,用户账户无法在通用设置或聊天控制部分按账户覆盖或调整上述系统提示词或手动设置的高级参数。这确保了一致性,并防止每当用户更改上下文长度设置时模型过度重新加载。
- 模型优先级:如果管理员在工作区部分预设了模型的系统提示词或特定高级参数值,用户账户在通用设置或聊天控制部分所做的任何上下文长度更改将被忽略,从而保留该模型的预配置值。请注意,管理员账户未更改的参数仍可由用户账户按账户或按聊天手动调整。
示例用例
按模型设置
假设管理员想为特定模型设置默认系统提示词。他们可以通过访问模型部分并修改相应模型的系统提示词字段来实现。使用此模型的任何聊天实例将自动使用该模型的系统提示词和高级参数。
优化系统提示词设置以实现最大灵活性
额外提示
此提示适用于管理员和用户账户。为了让您的系统提示词具备最大灵活性,我们建议考虑以下设置:
-
将您想要在通用设置的系统提示词字段中使用的主要系统提示词(即,赋予 LLM 定义特征)进行分配。这将使其在账户级别生效,并作为所有 LLM 的系统提示词,而无需在工作区部分对模型进行调整。
-
对于您的次要系统提示词(即,赋予 LLM 执行的任务),选择是将其放在聊天控制侧边栏内的系统提示词字段(按聊天设置),还是(对于管理员)放在工作区的模型部分(按模型设置),这样您可以直接设置它们。这使得您的账户级别系统提示词可以与聊天控制提供的按聊天级别系统提示词,或模型提供的按模型级别系统提示词协同工作。
-
作为管理员,您应该使用模型部分按模型设置您的 LLM 参数,以实现最佳灵活性。对于这两个次要系统提示词,请确保以最大化灵活性并最小化跨不同账户或聊天实例所需调整的方式进行设置。管理员账户以及所有用户账户都必须了解聊天控制和模型部分中的系统提示词应用于 LLM 的优先级顺序。