过滤器

过滤器用于对传入的用户消息和传出的助手（LLM）消息执行操作。过滤器中可以采取的潜在操作包括将消息发送到监控平台（例如 Langfuse 或 DataDog）、修改消息内容、阻止有害消息、将消息翻译成另一种语言，或对来自特定用户的消息进行速率限制。示例列表可在管道仓库中找到。过滤器可以作为函数或在管道服务器上执行。通用工作流程如下图所示。

当模型或管路上启用过滤器管道时，来自用户的传入消息（或“入口”）会被传递给过滤器进行处理。过滤器在请求 LLM 模型完成聊天之前，对消息执行所需的操作。最后，过滤器对传出的 LLM 消息（或“出口”）进行后处理，然后将其发送给用户。