agent_context/lib.rs
1//! # agent-context
2//!
3//! 通用、后端无关的 LLM 对话上下文管理器,基于 [kameo](https://crates.io/crates/kameo) Actor 模型构建。
4//!
5//! ## 核心概念
6//!
7//! ### 三区 + Scratch 消息模型
8//!
9//! 上下文消息按可变性分为三个存储区域,加上一个可选且不存储的 Scratch 层,按序拼接为完整对话:
10//!
11//! | 区域 | 容器 | 可变性 | 用途 |
12//! |------|------|--------|------|
13//! | **immutable** | [`ReadOnly`] | 不可变 | 系统提示词、预设上下文等构造后不变的消息 |
14//! | **compressed** | `Vec` | 仅压缩时写入 | 历史对话压缩后的摘要 |
15//! | **incremental** | `Vec` | 完全可变 | 当前活跃对话,支持增删改查 |
16//! | **scratch** | — | 可选,不存储 | 每轮刷新的临时元数据(时间、工作目录等),通过 [`CommonOpts`] 配置 |
17//!
18//! 拼接顺序:immutable → compressed → incremental → scratch(如有)。
19//! Scratch 由调用方在每次 [`RequestSend`]/[`RequestSendStream`] 时通过 [`CommonOpts`] 传入,
20//! 不存入任何区域,不触发变更事件,不参与序列化。
21//!
22//! ### 后端 trait
23//!
24//! [`ContextBackend`] 是核心抽象,封装 LLM 后端的:
25//!
26//! - **消息工厂**:[`user_message`](ContextBackend::user_message)、[`system_message`](ContextBackend::system_message)、[`tool_message`](ContextBackend::tool_message)
27//! - **格式转换**:[`to_system_message`](ContextBackend::to_system_message)、[`to_request_messages`](ContextBackend::to_request_messages)
28//! - **响应解析**:[`extract_messages`](ContextBackend::extract_messages)
29//! - **模型对话**:[`send`](ContextBackend::send)、[`send_stream`](ContextBackend::send_stream)、[`estimate_tokens`](ContextBackend::estimate_tokens)
30//!
31//! 实现 `ContextBackend` 即可让 AC 支持任意 LLM 后端(DeepSeek、智谱、OpenAI 等)。
32//!
33//! ### 上下文压缩
34//!
35//! [`RequestSend`]/[`RequestSendStream`] 发送前自动检测上下文是否已满。
36//! 当 [`CommonOpts::auto_compress`] 为 `true` 时自动压缩;为 `false` 时返回错误。
37//! 也可通过 [`RequestCompress`] 手动触发压缩,支持 [`CompressStrategy::Summarize`] 策略。
38//! 通过 [`RequestSubscribeCompressed`] 注册压缩结果订阅者,可在压缩后修改摘要与保留消息。
39//!
40//! ## 快速开始
41//!
42//! ```ignore
43//! use agent_context::{
44//! AgentContext, RequestAppend, RequestSend, RequestSendStream, RequestMessages,
45//! ContextBackend, CommonOpts,
46//! };
47//! use futures::StreamExt;
48//!
49//! // 1. 实现 ContextBackend(以你的 LLM SDK 类型)
50//! // 2. 创建 Actor
51//! let ctx = AgentContext::new(my_backend, vec![backend.system_message("You are a helpful assistant.")]);
52//! let actor_ref = AgentContext::spawn(ctx);
53//!
54//! // 3. 非流式对话
55//! actor_ref.ask(RequestAppend { message: user_msg }).await?;
56//! actor_ref.ask(RequestSend { opts: my_opts }).await?;
57//!
58//! // 4. 流式对话
59//! let mut stream = actor_ref.ask(RequestSendStream { opts: my_opts }).await??;
60//! while let Some(chunk) = stream.next().await { /* 逐块处理 */ }
61//! let chunks = stream.take_chunks();
62//! let msg = backend.merge_chunks(&chunks).expect("chunk merge failed");
63//! let msgs = backend.to_request_messages(vec![msg])?;
64//! for m in msgs {
65//! actor_ref.ask(RequestAppend { message: m }).await?;
66//! }
67//!
68//! // 5. 读取全部消息
69//! let all: Vec<_> = actor_ref.ask(RequestMessages).await?;
70//! ```
71
72#![forbid(
73 unused_must_use,
74 clippy::panic,
75 clippy::let_underscore_must_use,
76 clippy::disallowed_types,
77 clippy::disallowed_methods,
78 clippy::allow_attributes,
79 unfulfilled_lint_expectations
80)]
81#![deny(clippy::unwrap_used, clippy::expect_used)]
82
83mod context;
84mod error;
85mod message;
86mod readonly;
87mod role;
88
89pub use context::{
90 AgentContext, AgentSendStream, CompressStrategy, CommonOpts, ContextBackend,
91 ContextBackendResponse, NotifyCompressedForReply, RequestAppend, RequestClear,
92 RequestCompress, RequestCompressed, RequestEstimateTokens, RequestExtend, RequestFindByRole,
93 RequestImportIncremental, RequestGet, RequestImmutable, RequestIncremental, RequestInsert,
94 RequestIsEmpty, RequestLen, RequestMessages, RequestPop, RequestRemove, RequestRetain,
95 RequestSend, RequestSendStream, RequestSubscribeCompressed, RequestUnsubscribeCompressed,
96 RequestExportIncremental, RequestExportAll, RequestUpdate,
97 ResponseType, StreamEvent, ToolCallInfo,
98};
99pub use error::AgentError;
100pub use message::ContextMessage;
101pub use readonly::ReadOnly;
102pub use role::Role;