Skip to main content

Module context

Module context 

Source
Expand description

上下文预算管理 — 控制 Agent Loop 中 messages 的 Token 总量。

核心设计:

  • ContextBudget — 纯参数配置,用户可调
  • ContextCompactor — trait,可插拔压缩策略
  • LocalCompactor — 默认实现,滑动窗口 + 本地摘要
  • AgentExecutionContext — 执行期运行时缓存(替代 LoopState.estimated_tokens)
  • Assistant(tool_call) + ToolResult 是原子块,不可拆分

Structs§

AgentExecutionContext
Agent 运行时上下文 — 不可持久化的执行期缓存。
CompactionResult
压缩操作的结果。
ContextBudget
上下文预算配置。
LocalCompactor
本地滑动窗口压缩器 — v0.1 默认实现。

Traits§

ContextCompactor
上下文压缩器 — 可插拔策略。

Functions§

estimate_message
估算单条消息的 Token 数(含 role 和结构开销)。
estimate_reasoning_block
估算推理块(ThinkingBlock)的 Token 数。
estimate_text
估算文本的 Token 数(CJK-aware,含 1.1x 安全系数)。
estimate_tokens
估算消息列表的总 Token 数(CJK-aware 启发式)。