Struct TokenCache 

pub struct TokenCache { /* private fields */ }

토큰화 캐시

Implementations

impl TokenCache

pub fn new(config: CacheConfig) -> TokenCache

새 캐시 생성

pub fn with_defaults() -> TokenCache

기본 설정으로 캐시 생성

pub fn make_key(&self, text: &str) -> u64

문자열에서 캐시 키 생성

pub fn get(&self, key: u64) -> Option<Vec<CachedToken>>

캐시에서 조회

pub fn insert(&self, key: u64, tokens: Vec<CachedToken>)

캐시에 저장

pub fn get_or_insert<F>(&self, key: u64, compute: F) -> Vec<CachedToken>

where F: FnOnce() -> Vec<CachedToken>,

캐시 조회 또는 계산 후 삽입

pub fn get_or_insert_with_text<F>( &self, text: &str, compute: F, ) -> Vec<CachedToken>

where F: FnOnce() -> Vec<CachedToken>,

캐시에서 텍스트로 조회 또는 계산 후 삽입

pub fn clear(&self)

캐시 전체 삭제

pub fn len(&self) -> usize

현재 캐시 항목 수

pub fn is_empty(&self) -> bool

캐시가 비어있는지 확인

pub const fn stats(&self) -> &CacheStats

캐시 통계 참조

pub const fn config(&self) -> &CacheConfig

설정 참조

Trait Implementations

impl Default for TokenCache

fn default() -> TokenCache

Returns the “default value” for a type.