过滤器

过滤器用于对传入的用户消息和传出的助手 (LLM) 消息执行操作。过滤器中可以执行的潜在操作包括将消息发送到监控平台（如 Langfuse 或 DataDog）、修改消息内容、阻止有害消息、将消息翻译成另一种语言或限制某些用户的消息速率。示例列表保存在 Pipelines 仓库中。过滤器可以作为函数或在 Pipelines 服务器上执行。一般工作流程如下图所示。

当在模型或管道上启用过滤器管线时，来自用户的传入消息（或“入口”）会被传递给过滤器进行处理。过滤器在从 LLM 模型请求聊天完成之前，会根据消息执行所需操作。最后，过滤器会对传出的 LLM 消息（或“出口”）执行后处理，然后将其发送给用户。