List of all items
Structs
- LogOptions
- context::LlamaContext
- context::params::LlamaContextParams
- llama_backend::InvalidNumaStrategy
- llama_backend::LlamaBackend
- llama_batch::LlamaBatch
- model::LlamaChatMessage
- model::LlamaChatTemplate
- model::LlamaLoraAdapter
- model::LlamaModel
- model::params::LlamaModelParams
- model::params::kv_overrides::KvOverrideValueIterator
- model::params::kv_overrides::KvOverrides
- sampling::LlamaSampler
- timing::LlamaTimings
- token::LlamaToken
- token::data::LlamaTokenData
- token::data_array::LlamaTokenDataArray
- token::logit_bias::LlamaLogitBias
- token_type::LlamaTokenAttrs
Enums
- ApplyChatTemplateError
- ChatTemplateError
- DecodeError
- EmbeddingsError
- EncodeError
- LLamaCppError
- LlamaContextLoadError
- LlamaLoraAdapterInitError
- LlamaLoraAdapterRemoveError
- LlamaLoraAdapterSetError
- LlamaModelLoadError
- MetaValError
- NewLlamaChatMessageError
- StringToTokenError
- TokenToStringError
- context::kv_cache::KvCacheConversionError
- context::params::LlamaPoolingType
- context::params::RopeScalingType
- context::session::LoadSessionError
- context::session::SaveSessionError
- llama_backend::NumaStrategy
- llama_batch::BatchAddError
- model::AddBos
- model::LlamaTokenTypeFromIntError
- model::RopeType
- model::Special
- model::VocabType
- model::params::kv_overrides::ParamOverrideValue
- token_type::LlamaTokenAttr
- token_type::LlamaTokenTypeFromIntError
Functions
- ggml_time_us
- llama_supports_mlock
- llama_time_us
- max_devices
- mlock_supported
- mmap_supported
- send_logs_to_tracing