Skip to main content

calculate_safe_concurrency

Function calculate_safe_concurrency 

Source
pub fn calculate_safe_concurrency(
    available_mb: u64,
    cpu_count: usize,
    ram_per_task_mb: u64,
    max_concurrency: usize,
) -> usize
Expand description

Calcula o teto seguro de concorrência para cargas pesadas de embedding.

Fórmula canônica: permits = min(cpus, available_memory_mb / ram_por_task_mb) * 0.5

O resultado é clampado entre 1 e max_concurrency.