katu-llm

职责

定义 LLM 抽象层的核心数据类型，包括模型引用、生成参数、 模型能力描述、定价信息、HTTP 选项与缓存策略。

模块

• model — 模型相关类型 (ModelRef, ModelLimits, ModelPricing, ModelCapabilities, ...)
• http — HTTP 传输选项 (HttpOptions)
• cache — 缓存策略 (CachePolicy)
• request — 请求与响应 (LlmRequest, LlmResponse)
• provider — Provider trait (stream, generate)