跳到主要内容

🤖 模型

Open WebUI 中 WorkspaceModels 部分是一个强大的工具,允许您创建和管理针对特定用途定制的自定义模型。此部分是您所有模型文件的中央枢纽,提供编辑、克隆、共享、导出和隐藏模型的一系列功能。

模型文件管理

Models 部分,您可以对模型文件执行以下操作

  • 编辑:深入了解模型文件的详细信息,并更改其特性等。
  • 克隆:创建模型文件的副本,副本的 Model ID 将附加 -clone。请注意,您无法克隆基础模型;您必须先创建模型才能克隆它。
  • 共享:点击 Share 按钮,将您的模型文件共享到 Open WebUI 社区,这会将您重定向到 https://openwebui.com.cn/models/create
  • 导出:将模型文件的 .json 导出文件下载到您的电脑。
  • 隐藏:在聊天中的模型选择器下拉菜单中隐藏模型文件。

模型文件编辑

编辑模型文件时,您可以自定义以下设置

  • 头像照片:上传头像照片以表示您的模型文件。
  • 模型名称:更改模型文件的名称。
  • 系统提示:为您的模型文件提供一个可选的系统提示。
  • 模型参数:调整模型文件的参数。
  • 提示词建议:添加将在全新聊天页面上显示的提示词。
  • 文档:向模型文件添加文档(始终为 RAG [检索增强生成])。
  • 工具、筛选器和操作:选择模型文件可用的工具、筛选器和操作。
  • 视觉:切换以启用多模态的 Vision 功能。
  • 标签:向模型文件添加标签,这些标签将显示在模型选择器下拉菜单中的模型名称旁边。

模型发现与导入/导出

Models 部分还包括导入和导出模型的功能

  • 导入模型:使用此按钮从 .json 文件或其他来源导入模型。
  • 导出模型:使用此按钮将所有模型文件导出到一个 .json 文件中。

要下载模型,请导航到“连接”选项卡中的 Ollama 设置。或者,您也可以直接在模型选择下拉菜单中输入类似 ollama run hf.co/[model creator]/[model name] 的命令来下载模型。此操作将创建一个标有“拉取 [模型名称]”的下载按钮。

模型切换

示例:在多阶段任务中切换 MistralLLaVAGPT-3.5

  • 场景:多阶段对话涉及不同类型的任务,例如从简单的常见问题解答开始、解释图像,然后生成创意响应。

  • 切换原因:用户可以利用每个模型在每个阶段的特定优势

    • Mistral 适用于一般问题,以减少计算时间和成本。
    • LLaVA 适用于视觉任务,以从基于图像的数据中获取见解。
    • GPT-3.5 适用于生成更复杂和细致的语言输出。
  • 过程:用户根据任务类型在不同模型之间切换,以最大限度地提高效率和响应质量。

    操作方法:

    1. 选择模型:在聊天界面中,从模型切换器下拉菜单中选择所需的模型。您最多可以同时选择两个模型,并且会生成两个响应。然后,您可以使用前后箭头在它们之间导航。
    2. 上下文保留:Open WebUI 在模型切换时保留对话上下文,从而实现平滑过渡。