Struct CachingEmbeddingModel 

pub struct CachingEmbeddingModel<M>
where
    M: EmbeddingModel,
{ /* private fields */ }

缓存型 Embedding 模型适配器

包装一个内部 EmbeddingModel，对相同输入文本返回缓存的向量， 避免重复计算。适用于嵌入计算成本高的场景（如调用远程 API）。

泛型参数

• M: 内部嵌入模型

Implementations

impl<M> CachingEmbeddingModel<M>

where M: EmbeddingModel,

pub fn new(inner: M) -> Self

创建缓存型适配器

pub fn cache_size(&self) -> usize

获取缓存大小

pub fn cache_hits(&self) -> u64

获取缓存命中次数

pub fn cache_misses(&self) -> u64

获取缓存未命中次数

pub fn hit_rate(&self) -> f64

缓存命中率

pub fn clear_cache(&self)

清空缓存

pub fn inner(&self) -> &M

获取内部模型引用

Trait Implementations

impl<M> EmbeddingModel for CachingEmbeddingModel<M>

where M: EmbeddingModel,

fn embed<'life0, 'life1, 'async_trait>( &'life0 self, text: &'life1 str, ) -> Pin<Box<dyn Future<Output = Result<Vec<f32>, AiError>> + Send + 'async_trait>>

where Self: 'async_trait, 'life0: 'async_trait, 'life1: 'async_trait,

fn embed_batch<'life0, 'life1, 'async_trait>( &'life0 self, texts: &'life1 [String], ) -> Pin<Box<dyn Future<Output = Result<Vec<Vec<f32>>, AiError>> + Send + 'async_trait>>

where Self: 'async_trait, 'life0: 'async_trait, 'life1: 'async_trait,

fn dimension(&self) -> usize

fn model_name(&self) -> &str