List of all items

Structs

• codec::BrotliCodec
• codec::CodecEngine
• codec::CompressionResult
• codec::ContentAnalysis
• codec::DictionaryCodec
• codec::M3ChatRequest
• codec::M3Codec
• codec::M3Message
• codec::StreamingCodec
• codec::StreamingDecompressor
• codec::StreamingStats
• codec::TokenCodec
• codec::TokenNativeCodec
• codec::m2m::CommonFlags
• codec::m2m::FixedHeader
• codec::m2m::M2MCodec
• codec::m2m::M2MFrame
• codec::m2m::ModelPricing
• codec::m2m::RequestFlags
• codec::m2m::ResponseFlags
• codec::m2m::ResponseHeader
• codec::m2m::RoutingHeader
• codec::m2m::crypto::AeadCipher
• codec::m2m::crypto::HmacAuth
• codec::m2m::crypto::KeyId
• codec::m2m::crypto::KeyMaterial
• codec::m2m::crypto::Keyring
• codec::m2m::crypto::SecurityContext
• config::CompressionConfig
• config::Config
• config::ModelConfig
• inference::CompressionDecision
• inference::HydraModel
• inference::SecurityDecision
• inference::bitnet::Expert
• inference::bitnet::HydraBitNet
• inference::bitnet::HydraConfig
• inference::bitnet::LayerNorm
• inference::bitnet::Linear
• inference::bitnet::MoELayer
• inference::tokenizer::FallbackTokenizer
• inference::tokenizer::HydraByteTokenizer
• inference::tokenizer::Llama3Tokenizer
• inference::tokenizer::TiktokenTokenizer
• models::ModelCard
• models::ModelRegistry
• models::Pricing
• protocol::Capabilities
• protocol::CompressionCaps
• protocol::Message
• protocol::NegotiatedCaps
• protocol::RejectionInfo
• protocol::SecurityCaps
• protocol::Session
• protocol::SessionStats
• security::ScanResult
• security::SecurityScanner
• security::ThreatPattern
• server::AppState
• server::ServerConfig
• server::SessionManager
• tokenizer::TokenCounter
• transport::QuicTransport
• transport::QuicTransportConfig
• transport::TcpTransport
• transport::TlsConfig

Enums

• codec::Algorithm
• codec::SseEvent
• codec::StreamingMode
• codec::m2m::FinishReason
• codec::m2m::Schema
• codec::m2m::SecurityMode
• codec::m2m::crypto::AeadError
• codec::m2m::crypto::CryptoError
• codec::m2m::crypto::HmacError
• codec::m2m::crypto::KeyError
• codec::m2m::crypto::KeyringError
• codec::m2m::crypto::NonceError
• error::M2MError
• inference::ThreatType
• inference::tokenizer::TokenizerType
• models::Encoding
• models::Provider
• protocol::MessageType
• protocol::RejectionCode
• protocol::SessionState
• transport::CertConfig
• transport::TransportKind

Traits

• inference::tokenizer::HydraTokenizer
• transport::Transport

Functions

• codec::detect_algorithm
• codec::is_default_value
• codec::is_m2m_format
• codec::m2m::estimate_cost
• codec::m2m::is_any_m2m_format
• codec::m2m::is_m2m_format
• codec::m2m::read_varint
• codec::m2m::write_varint
• detect_algorithm
• inference::tokenizer::boxed
• inference::tokenizer::load_tokenizer
• inference::tokenizer::load_tokenizer_by_type
• is_m2m_format
• models::get_embedded_by_abbrev
• models::get_embedded_by_id
• models::get_embedded_models
• models::get_pricing
• server::create_router
• server::health_check
• tokenizer::count_tokens
• tokenizer::count_tokens_for_model
• tokenizer::count_tokens_with_encoding
• tokenizer::estimate_savings

Type Aliases

• error::Result
• inference::tokenizer::BoxedTokenizer

Statics

• codec::KEY_ABBREV
• codec::KEY_EXPAND
• codec::MODEL_ABBREV
• codec::MODEL_EXPAND
• codec::PATTERN_ABBREV
• codec::PATTERN_EXPAND
• codec::ROLE_ABBREV
• codec::ROLE_EXPAND
• models::EMBEDDED_MODELS
• security::INJECTION_PATTERNS
• security::JAILBREAK_PATTERNS

Constants

• PROTOCOL_VERSION
• VERSION
• codec::M3_PREFIX
• codec::m2m::COMPRESSION_THRESHOLD
• codec::m2m::M2M_PREFIX
• codec::m2m::M2M_VERSION
• codec::m2m::crypto::AEAD_TAG_SIZE
• codec::m2m::crypto::HMAC_TAG_SIZE
• codec::m2m::crypto::MIN_KEY_SIZE
• codec::m2m::crypto::NONCE_SIZE
• codec::m2m::crypto::RECOMMENDED_KEY_SIZE
• inference::DEFAULT_MODEL_PATH
• inference::DEFAULT_TOKENIZER_PATH
• inference::MODEL_VERSION
• inference::tokenizer::MAX_SEQUENCE_LENGTH
• protocol::PROTOCOL_VERSION
• protocol::SESSION_TIMEOUT_SECS
• security::SECURITY_VERSION