🤖 模型
Open WebUI 中 Workspace
的 Models
部分是一个强大的工具,允许您创建和管理针对特定用途定制的自定义模型。此部分是您所有模型文件的中央枢纽,提供编辑、克隆、共享、导出和隐藏模型的一系列功能。
模型文件管理
在 Models
部分,您可以对模型文件执行以下操作
- 编辑:深入了解模型文件的详细信息,并更改其特性等。
- 克隆:创建模型文件的副本,副本的
Model ID
将附加-clone
。请注意,您无法克隆基础模型;您必须先创建模型才能克隆它。 - 共享:点击
Share
按钮,将您的模型文件共享到 Open WebUI 社区,这会将您重定向到 https://openwebui.com.cn/models/create。 - 导出:将模型文件的
.json
导出文件下载到您的电脑。 - 隐藏:在聊天中的模型选择器下拉菜单中隐藏模型文件。
模型文件编辑
编辑模型文件时,您可以自定义以下设置
- 头像照片:上传头像照片以表示您的模型文件。
- 模型名称:更改模型文件的名称。
- 系统提示:为您的模型文件提供一个可选的系统提示。
- 模型参数:调整模型文件的参数。
- 提示词建议:添加将在全新聊天页面上显示的提示词。
- 文档:向模型文件添加文档(始终为 RAG [检索增强生成])。
- 工具、筛选器和操作:选择模型文件可用的工具、筛选器和操作。
- 视觉:切换以启用多模态的
Vision
功能。 - 标签:向模型文件添加标签,这些标签将显示在模型选择器下拉菜单中的模型名称旁边。
模型发现与导入/导出
Models
部分还包括导入和导出模型的功能
- 导入模型:使用此按钮从 .json 文件或其他来源导入模型。
- 导出模型:使用此按钮将所有模型文件导出到一个 .json 文件中。
要下载模型,请导航到“连接”选项卡中的 Ollama 设置。或者,您也可以直接在模型选择下拉菜单中输入类似 ollama run hf.co/[model creator]/[model name]
的命令来下载模型。此操作将创建一个标有“拉取 [模型名称]”的下载按钮。
模型切换
示例:在多阶段任务中切换 Mistral、LLaVA 和 GPT-3.5
-
场景:多阶段对话涉及不同类型的任务,例如从简单的常见问题解答开始、解释图像,然后生成创意响应。
-
切换原因:用户可以利用每个模型在每个阶段的特定优势
- Mistral 适用于一般问题,以减少计算时间和成本。
- LLaVA 适用于视觉任务,以从基于图像的数据中获取见解。
- GPT-3.5 适用于生成更复杂和细致的语言输出。
-
过程:用户根据任务类型在不同模型之间切换,以最大限度地提高效率和响应质量。
操作方法:
- 选择模型:在聊天界面中,从模型切换器下拉菜单中选择所需的模型。您最多可以同时选择两个模型,并且会生成两个响应。然后,您可以使用前后箭头在它们之间导航。
- 上下文保留:Open WebUI 在模型切换时保留对话上下文,从而实现平滑过渡。