llama_cpp_2

Module token

source
Expand description

Safe wrappers around llama_token_data and llama_token_data_array.

Modules§

  • data
    Safe wrapper around llama_token_data.
  • data_array
    an rusty equivalent of llama_token_data.

Structs§