Skip to main content

llama_rs_decode

Function llama_rs_decode 

Source
pub unsafe extern "C" fn llama_rs_decode(
    ctx: *mut llama_context,
    batch: llama_batch,
    out_vendored_return_code: *mut i32,
    out_error: *mut *mut c_char,
) -> llama_rs_decode_status