Skip to main content

Module cache

aster::prompt

Module cache 

Source
Expand description

提示词缓存系统

实现 system_prompt_hash 计算和缓存优化

Structs§

CacheStats
缓存统计信息
PromptCache
提示词缓存

Functions§

estimate_tokens
估算 tokens
generate_cache_key
生成缓存键