List of all items

Structs

• backend::CpuBackend
• pool::PoolAllocator

Traits

• backend::ExecutionBackend

Functions

• kernels::attention::causal_mask
• kernels::attention::scaled_dot_product_attention
• kernels::conv2d::conv2d
• kernels::elementwise::abs
• kernels::elementwise::add
• kernels::elementwise::ceil
• kernels::elementwise::clip
• kernels::elementwise::div
• kernels::elementwise::erf
• kernels::elementwise::exp
• kernels::elementwise::floor
• kernels::elementwise::gelu
• kernels::elementwise::hard_swish
• kernels::elementwise::leaky_relu
• kernels::elementwise::log
• kernels::elementwise::mul
• kernels::elementwise::neg
• kernels::elementwise::pow
• kernels::elementwise::relu
• kernels::elementwise::round
• kernels::elementwise::sigmoid
• kernels::elementwise::silu
• kernels::elementwise::sqrt
• kernels::elementwise::sub
• kernels::elementwise::tanh_act
• kernels::layernorm::layer_norm
• kernels::layernorm::rms_norm
• kernels::matmul::gemm
• kernels::matmul::matmul
• kernels::matmul::matmul_nt
• kernels::quant::dequantize_q4_0_block
• kernels::quant::dot_q4_0_block_f32
• kernels::quant::dot_q4_0_row_f32
• kernels::quant::dot_q4_k_row_f32
• kernels::quant::dot_q5_k_row_f32
• kernels::quant::dot_q6_k_row_f32
• kernels::quant::dot_q8_0_block_f32
• kernels::quant::dot_q8_0_row_f32
• kernels::quant::dot_q8_0_row_i8_scalar
• kernels::quant::quantize_q4_0_block
• kernels::quant::quantize_q4_0_row
• kernels::quant::quantize_q8_0_block
• kernels::quant::quantize_row_to_i8
• kernels::reduce::reduce_max
• kernels::reduce::reduce_mean
• kernels::reduce::reduce_min
• kernels::reduce::reduce_sum
• kernels::rope::apply_rope
• kernels::rope::apply_rope_partial
• kernels::rope::rope_cos_sin_cache
• kernels::softmax::log_softmax
• kernels::softmax::softmax

Constants

• kernels::quant::Q4_0_BLOCK_BYTES
• kernels::quant::Q4_K_BLOCK_BYTES
• kernels::quant::Q5_K_BLOCK_BYTES
• kernels::quant::Q6_K_BLOCK_BYTES
• kernels::quant::Q8_0_BLOCK_BYTES
• kernels::quant::QK
• kernels::quant::QK_K