Function llama_cpp_sys_2::llama_sample_token_greedy

source · 
pub unsafe extern "C" fn llama_sample_token_greedy(
    ctx: *mut llama_context,
    candidates: *mut llama_token_data_array
) -> llama_token
Expand description

@details Selects the token with the highest probability. Does not compute the token probabilities. Use llama_sample_softmax() instead.