Expand description
设备与模型的选择:跑在哪(Device)、实际跑在哪(DeviceStatus)、用哪档模型(select_models)。
Structs§
- Device
Status - 实际用的设备,以及想用 GPU 却退回 CPU 的原因。
- Model
Choice - 选中的模型。
Enums§
- Device
- 想用的设备。配置
[gpu] mode的对应:off→Cpu,cuda→Gpu { index: 0 },cuda:N→Gpu { index: N };auto也是Gpu { index: 0 },打不开时退回 CPU。 - Quality
- 配置
[ocr] quality。
Functions§
- medium_
vram_ bytes - medium 在显存里至少要占多少字节(权重加一页的工作内存)。
- select_
models - 按质量档和设备选模型。
Quality::Auto用pagesift_gpu::probe查空闲显存;查不到(没有 GPU、PAGESIFT_GPU=off)时选 small。