Skip to main content

llama_get_kv_cache_token_count

Function llama_get_kv_cache_token_count 

Source
pub unsafe extern "C" fn llama_get_kv_cache_token_count(
    ctx: *const llama_context,
) -> i32