List of all items

Structs

• context::LlamaContext
• context::params::LlamaContextParams
• context::sample::Sampler
• grammar::ExtraneousCharsAfterRule
• grammar::LlamaGrammar
• llama_backend::LlamaBackend
• llama_batch::LlamaBatch
• model::LlamaModel
• model::params::LlamaModelParams
• timing::LlamaTimings
• token::LlamaToken
• token::data::LlamaTokenData
• token::data_array::LlamaTokenDataArray

Enums

• DecodeError
• LLamaCppError
• LlamaContextLoadError
• LlamaModelLoadError
• StringToTokenError
• TokenToStringError
• grammar::GrammarParseError
• grammar::LlamaGrammarFromStrError
• model::LlamaTokenTypeFromIntError
• model::VocabType
• token_type::LlamaTokenType
• token_type::LlamaTokenTypeFromIntError

Functions

• ggml_time_us
• llama_time_us
• max_devices
• mlock_supported
• mmap_supported

Type Aliases

• Result