Expand description
Safe wrappers around llama_token_data and llama_token_data_array.
Modules§
- data
- Safe wrapper around
llama_token_data. - data_
array - an rusty equivalent of
llama_token_data_array. - logit_
bias - Safe wrapper around
llama_logit_bias.
Structs§
- Llama
Token - A safe wrapper for
llama_token.