List of all items

Structs

• attn::AttnConfig
• attn::AttnWeights
• attn::KvCache
• config::TransformerConfig
• cq::CqWeight
• ffn::FfnWeights
• layers::DecoderLayer
• layers::EncoderLayer
• model::NeedleModel
• quant::QuantizedWeight
• rope::RopeCache
• v2::batch::V2Batch
• v2::config::EngramGeometry
• v2::config::V2Config
• v2::heads::ProbeHeadWeights
• v2::heads::ProbePool
• v2::model::V2Engram
• v2::model::V2Layer
• v2::model::V2Mhc
• v2::model::V2Model
• v2::model::V2State
• v3::attention::AttnDims
• v3::attention::Ring
• v3::cache::V3Cache
• v3::config::V3Config
• v3::config::V3Engram
• v3::engram::EngramDims
• v3::heads::ProbeHead
• v3::heads::ProbePool
• v3::kernels::HadaMlp
• v3::kernels::HadaPerms
• v3::mhc::Gates
• v3::mhc::LaneSite
• v3::mhc::MhcLayer
• v3::model::V3EngramSite
• v3::model::V3Layer
• v3::model::V3Mhc
• v3::model::V3Model

Enums

• config::FfnActivation
• cq::CqError
• v3::attention::KvStore
• v3::cache::KvPrecision
• v3::cache::Qkv

Functions

• attn::cross_attn_incremental
• attn::self_attn_full
• attn::self_attn_incremental
• cq::codebook_slice
• cq::packed_row_bytes
• ffn::ffn_forward
• hadamard::fwht
• hadamard::fwht_normalized
• hadamard::hada_n
• kernels::rms_unit
• kernels::rms_unit_to
• kernels::sinkhorn
• layers::decoder_layer_forward
• layers::encoder_layer_forward
• math::abs
• math::cos
• math::exp
• math::f16_to_f32
• math::ln
• math::powf
• math::round
• math::sin
• math::sqrt
• math::tanh
• norm::zc_rms_norm
• norm::zc_rms_norm_vec
• ops::add_bias
• ops::dot
• ops::elementwise_mul
• ops::gelu
• ops::matmul
• ops::saxpy
• ops::sigmoid
• ops::silu
• ops::softmax_inplace
• quant::has_avx2
• v2::kernels::engram_index
• v2::kernels::engram_table_order
• v2::kernels::hadamard_mlp
• v3::attention::attend
• v3::attention::attend_step
• v3::attention::causal_depthwise_conv
• v3::attention::norm_and_rope
• v3::cache::fake_quant_vec
• v3::cache::quantize_rows
• v3::engram::apply_site
• v3::engram::engram_indices
• v3::engram::ngram_valid
• v3::engram::value_conv
• v3::kernels::hada_blocks
• v3::kernels::hadamard_mlp
• v3::kernels::kron_apply
• v3::ladder::ladder_layer_indices
• v3::ladder::ladder_order
• v3::mhc::mix_down
• v3::mhc::post_off
• v3::mhc::pre_off
• v3::mhc::scatter_up

Constants

• cq::ACC_LANES
• cq::CODEBOOK_LEN
• cq::CODEBOOK_WIDTHS
• cq::MAX_GROUP
• cq::TERNARY_CENTROID
• cq::TERNARY_RECORD_BITS
• kernels::EPS
• kernels::SINKHORN_ITERS
• quant::GROUP_SIZE
• quant::SCALE_MIN
• v2::batch::DEFAULT_CHUNK
• v2::heads::HEAD_CONFIDENCE
• v2::heads::HEAD_CONTRASTIVE
• v2::heads::L2_EPS
• v2::kernels::ENGRAM_PRIME
• v2::kernels::ENGRAM_SEED
• v3::heads::HEAD_CONFIDENCE
• v3::heads::HEAD_EMBEDDING
• v3::heads::HEAD_ROUTER
• v3::model::DEFAULT_CHUNK