pub struct GpuInfo {
pub index: usize,
pub name: String,
pub compute_capability: (i32, i32),
pub memory_total: u64,
pub memory_free: u64,
pub driver_version: Option<String>,
pub cuda_version: (i32, i32),
pub ptx: &'static str,
}Expand description
一块 N 卡的情况(给 doctor 和模型选择用)。
Fields§
§index: usize设备序号(cuda:N 的 N)。
name: String设备名,例如 “NVIDIA GeForce GTX 1070”。
compute_capability: (i32, i32)算力 (主, 次),例如 (6, 1)。
memory_total: u64显存总量(字节)。
memory_free: u64查询时的空闲显存(字节)。
driver_version: Option<String>真实驱动版本(来自 NVML,例如 “550.54.14”);没有 NVML 时为 None。
cuda_version: (i32, i32)驱动支持的 CUDA API 版本 (主, 次),例如 (12, 4)。
ptx: &'static str选中的 PTX 版本:“sm_61” 或 “sm_70”。
Trait Implementations§
impl Eq for GpuInfo
impl StructuralPartialEq for GpuInfo
Auto Trait Implementations§
impl Freeze for GpuInfo
impl RefUnwindSafe for GpuInfo
impl Send for GpuInfo
impl Sync for GpuInfo
impl Unpin for GpuInfo
impl UnsafeUnpin for GpuInfo
impl UnwindSafe for GpuInfo
Blanket Implementations§
Source§impl<T> BorrowMut<T> for Twhere
T: ?Sized,
impl<T> BorrowMut<T> for Twhere
T: ?Sized,
Source§fn borrow_mut(&mut self) -> &mut T
fn borrow_mut(&mut self) -> &mut T
Mutably borrows from an owned value. Read more