Skip to main content

MAX_CONCURRENT_CLI_INSTANCES

Constant MAX_CONCURRENT_CLI_INSTANCES 

Source
pub const MAX_CONCURRENT_CLI_INSTANCES: usize = 4;
Expand description

Número máximo de instâncias CLI em execução simultânea.

Alinhado com DAEMON_MAX_CONCURRENT_CLIENTS do PRD. Limita o semáforo de contagem em crate::lock para evitar sobrecarga de memória quando múltiplas invocações paralelas tentam carregar o modelo ONNX simultaneamente.