⚙️ 聊天参数
在 Open WebUI 中,系统提示词和高级参数的设置有三个层面:按聊天、按模型和按账户。这种分层系统既提供了灵活性,又保持了结构化的管理和控制。
系统提示词和高级参数层级图
级别 | 定义 | 修改权限 | 覆盖能力 |
---|---|---|---|
按聊天 | 针对特定聊天实例的系统提示词和高级参数 | 用户可以修改,但不能覆盖模型特定设置 | 限制覆盖模型特定设置 |
按账户 | 特定用户账户的默认系统提示词和高级参数 | 用户可以设置,但可能被模型特定设置覆盖 | 用户设置可被模型特定设置覆盖 |
按模型 | 特定模型的默认系统提示词和高级参数 | 管理员可以设置,用户不能修改 | 管理员特定设置优先,用户设置可被覆盖 |
1. 按聊天:
- 描述:按聊天设置是指针对特定聊天实例配置的系统提示词和高级参数。这些设置仅适用于当前对话,不影响未来的聊天。
- 如何设置:用户可以在 Open WebUI 右侧边栏的聊天控制部分中,修改特定聊天实例的系统提示词和高级参数。
- 覆盖能力:用户不能覆盖管理员已按模型(#2)设置的系统提示词或特定的高级参数。这确保了模型特定设置的一致性和遵循性。
用例示例
按聊天
假设用户希望为特定对话设置自定义系统提示词。他们可以通过访问聊天控制部分并修改系统提示词字段来完成此操作。这些更改仅适用于当前聊天会话。
2. 按账户:
- 描述:按账户设置是指为特定用户账户配置的默认系统提示词和高级参数。任何用户特定的更改都可以作为在未定义较低级别设置情况下的备用方案。
- 如何设置:用户可以在 Open WebUI 的设置菜单的通用部分中,为其账户设置自己的系统提示词和高级参数。
- 覆盖能力:用户可以在其账户上设置自己的系统提示词,但他们必须注意,如果管理员已经为所使用的特定模型按模型设置了系统提示词或特定的高级参数,则这些参数仍然可能被覆盖。
用例示例
按账户
假设用户希望为其账户设置自己的系统提示词。他们可以通过访问设置菜单并修改系统提示词字段来完成此操作。
3. 按模型:
- 描述:按模型设置是指为特定模型配置的默认系统提示词和高级参数。这些设置适用于所有使用该模型的聊天实例。
- 如何设置:管理员可以在 Open WebUI 的工作区的模型部分中,设置特定模型的默认系统提示词和高级参数。
- 覆盖能力:用户账户不能按模型(#3)修改系统提示词或特定的高级参数。此限制可防止用户不当地更改默认设置。
- 上下文长度保留:当管理员在工作区部分手动设置模型的系统提示词或特定的高级参数时,该系统提示词或手动设置的高级参数不能由用户账户在通用设置或聊天控制部分中按账户覆盖或调整。这确保了一致性,并防止在用户上下文长度设置更改时模型过度重新加载。
- 模型优先级:如果管理员在工作区部分预设了模型的系统提示词或特定的高级参数值,则用户账户在通用设置或聊天控制部分中进行的任何上下文长度更改都将被忽略,从而保持该模型的预配置值。请注意,未被管理员账户触及的参数仍可由用户账户按账户或按聊天手动调整。
用例示例
按模型
假设管理员希望为特定模型设置默认系统提示词。他们可以通过访问模型部分并修改相应模型的系统提示词字段来完成此操作。任何使用此模型的聊天实例都将自动使用该模型的系统提示词和高级参数。
优化系统提示词设置以获得最大灵活性
额外提示
此提示适用于管理员和用户账户。为使您的系统提示词达到最大灵活性,我们建议考虑以下设置
-
将您的主要系统提示词(即,赋予 LLM 一个定义性角色)分配到您通用设置的系统提示词字段中。这将其设置为账户级别,并允许它作为所有 LLM 的系统提示词工作,而无需在工作区部分中对模型进行调整。
-
对于您的次要系统提示词(即,赋予 LLM 一个要执行的任务),选择是将其放在聊天控制侧边栏的系统提示词字段(按聊天),还是放在管理员的工作区部分中的模型部分(按模型),以便直接设置。这使得您的账户级系统提示词可以与聊天控制提供的按聊天级系统提示词或模型提供的按模型级系统提示词协同工作。
-
作为管理员,您应使用模型部分按模型分配 LLM 参数,以获得最佳灵活性。对于这两个次要系统提示词,请确保以最大化灵活性和最小化跨不同按账户或按聊天实例所需调整的方式进行设置。您的管理员账户以及所有用户账户都必须了解聊天控制和模型部分中的系统提示词应用于 LLM 的优先级顺序。