Skip to main content

llama_rs_mtp_speculative_begin

llama_cpp_sys_2

Function llama_rs_mtp_speculative_begin 

Source 
pub unsafe extern "C" fn llama_rs_mtp_speculative_begin(
    spec: *mut llama_rs_mtp_speculative,
    prompt_tokens: *const llama_token,
    prompt_tokens_count: usize,
) -> llama_rs_status