Skip to main content

llama_rs_mtp_speculative_process

llama_cpp_sys_2

Function llama_rs_mtp_speculative_process 

Source 
pub unsafe extern "C" fn llama_rs_mtp_speculative_process(
    spec: *mut llama_rs_mtp_speculative,
    batch: *const llama_batch,
) -> llama_rs_status