Skip to main content

Module middleware

Module middleware 

Source
Expand description

Middleware:在 agent 生命周期的关键节点拦截并改写行为。

中间件可以改请求、改消息、改工具结果, 甚至在工具执行前短路。钩子按 onion 模型组合:before_* 正序执行, after_* 逆序执行(先包裹的最后收尾)。

常见用途:

  • before_model:注入/改写系统提示、裁剪历史、设置 max_tokens、做 prompt 缓存标记;
  • after_model:给 assistant 消息打标、做内容审计;
  • before_tool:危险工具护栏(拒绝执行)、命中缓存直接返回;
  • after_tool:敏感信息脱敏、超长输出截断。

Structs§

MiddlewareChain
一组中间件,按 onion 顺序驱动。运行时持有它并在各钩子点调用。
MiddlewareCtx
中间件可见的运行上下文(只读快照)。

Enums§

ToolDecision
before_tool 的返回:放行,或用给定结果直接短路(工具不会真正执行)。

Traits§

Middleware
中间件钩子。所有方法都有默认空实现,按需覆盖。