Skip to main content

Module memory_guard

Module memory_guard 

Source
Expand description

Guarda de memória: verifica disponibilidade de RAM antes de carregar o modelo ONNX. Guarda de memória: verifica disponibilidade de RAM antes de carregar o modelo ONNX.

O carregamento do modelo via fastembed consome aproximadamente crate::constants::EMBEDDING_LOAD_EXPECTED_RSS_MB MiB de memória residente. Se o sistema não tiver memória suficiente disponível, múltiplas invocações paralelas podem esgotar a RAM e causar OOM (Out-Of-Memory), travando o sistema.

Esta guard interroga o SO via sysinfo antes de qualquer inicialização pesada, abortando com crate::errors::AppError::LowMemory (exit 77) quando o piso configurado não é atingido.

Functions§

available_memory_mb
Retorna a memória disponível atual em MiB.
calculate_safe_concurrency
Calcula o teto seguro de concorrência para cargas pesadas de embedding.
check_available_memory
Verifica se há memória disponível suficiente para iniciar o carregamento do modelo.