Skip to main content

auto_compact

Function auto_compact 

Source
pub async fn auto_compact(
    messages: &mut Vec<ChatMessage>,
    params: &AutoCompactParams<'_>,
) -> Result<CompactResult, String>
Expand description

Layer 2: auto_compact - 保存 transcript + LLM 摘要 + 替换消息

需要调用 LLM(非流式,max_tokens=20000)。 失败时 graceful degradation:log 错误,返回 Err,调用方可继续用原消息。

invoked_skills: 会话内已调用技能的共享状态,auto_compact 后将技能指令作为附件重新注入, 确保模型在压缩后仍能遵循正在执行的技能/工作流。