Skip to main content

ik_llama_rs_mtp_draft

ik_llama_cpp_sys

Function ik_llama_rs_mtp_draft 

Source 
pub unsafe extern "C" fn ik_llama_rs_mtp_draft(
    spec: *mut ik_llama_rs_mtp,
    n_past: i32,
    id_last: llama_token,
    out_tokens: *mut llama_token,
    cap: usize,
    n_out: *mut usize,
) -> llama_rs_status