跳到主要内容

管道

管道是独立的功能,它们处理输入并生成响应,可能会在向用户返回结果之前调用一个或多个LLM或外部服务。使用管道可以执行的潜在操作包括检索增强生成(RAG)、向非OpenAI LLM提供商(例如Anthropic、Azure OpenAI或Google)发送请求,或者直接在您的Web UI中执行功能。管道可以作为函数或在管道服务器上托管。一个示例列表在管道仓库中维护。一般工作流程如下图所示。

Pipe Workflow

在您的WebUI中定义的管道会显示为一个新的模型,并附加有“外部”标识。下面可以看到两个管道模型(Database RAG PipelineDOOM)与两个自托管模型并列的示例

Pipe Models in WebUI