Skip to main content

Module device

Module device 

Source
Expand description

设备与模型的选择:跑在哪(Device)、实际跑在哪(DeviceStatus)、用哪档模型(select_models)。

Structs§

DeviceStatus
实际用的设备,以及想用 GPU 却退回 CPU 的原因。
ModelChoice
选中的模型。

Enums§

Device
想用的设备。配置 [gpu] mode 的对应:off → Cpu,cuda → Gpu { index: 0 }, cuda:N → Gpu { index: N };auto 也是 Gpu { index: 0 },打不开时退回 CPU。
Quality
配置 [ocr] quality。

Functions§

medium_vram_bytes
medium 在显存里至少要占多少字节(权重加一页的工作内存)。
select_models
按质量档和设备选模型。Quality::Auto 用 pagesift_gpu::probe 查空闲显存;查不到(没有 GPU、 PAGESIFT_GPU=off)时选 small。