List of all items

Structs

• config::AdmissionConfig
• config::AgentConfig
• config::AuthConfig
• config::AutoscalerConfig
• config::CascadeConfig
• config::ClusterConfig
• config::Config
• config::DisaggConfig
• config::EngineConfig
• config::FederationConfig
• config::KvConfig
• config::LlamaCppEngineConfig
• config::MetricsConfig
• config::ModelConfig
• config::RateLimitConfig
• config::RouterConfig
• config::ScoreWeights
• config::SecurityConfig
• config::SglangEngineConfig
• config::VllmEngineConfig
• prefix::NodeEntry
• prefix::PrefixIndex

Enums

• config::EngineKind
• config::KvOffload
• config::KvTransport
• config::LlamaCppMode
• config::NodeRoleCfg
• config::StateBackend
• error::Error

Functions

• error::exit_code
• hash::hash_chunk
• hash::hash_chunks
• hash::hash_seq_chunk
• hash::hash_seq_chunks
• hash::short

Type Aliases

• error::Result

Constants

• DEFAULT_CONFIG_PATH
• DEFAULT_UDS_DIR
• build::VERSION
• etcd_keys::MODELS
• etcd_keys::NODES
• etcd_keys::ROUTER_LEADER
• etcd_keys::ROUTING
• hash::TOKENS_PER_CHUNK
• ports::AGENT_GRPC
• ports::KV_GRPC
• ports::KV_QUIC
• ports::METRICS_HTTP
• ports::ROUTER_ADMIN
• ports::ROUTER_GRPC
• ports::ROUTER_HTTP
• ports::VLLM_HTTP