llama-cpp-bindings 0.7.0

llama.cpp bindings for Rust
Documentation 
1
2
3
4
5
6
7
8
9

use crate::token::LlamaToken;

#[derive(Copy, Clone, Debug, Eq, PartialEq, Hash)]
pub enum SampledToken {
    Content(LlamaToken),
    Reasoning(LlamaToken),
    ToolCall(LlamaToken),
    Undeterminable(LlamaToken),
}