Struct GpuBackend 

pub struct GpuBackend { /* private fields */ }

透明分流的后端。

Implementations

impl GpuBackend

pub fn new(worker: SharedWorker) -> Result<GpuBackend, String>

校准开销（几十毫秒）并建好后端。

pub fn costs(&self) -> Costs

校准出来的开销。

pub fn offloaded(&self) -> u64

走了 GPU 的算子个数。

pub fn last_error(&self) -> Option<String>

最近一次 GPU 出错的原因（出错的算子已自动在 CPU 上重算）。

Trait Implementations

impl Backend for GpuBackend

fn matmul(&self, a: &Tensor, b: &Tensor, b_is_weight: bool) -> Option<Vec<f32>>

a[M, K] · b[K, N]，行优先。b_is_weight 表示 b 是长期不变的权重，后端可以缓存。

fn conv2d( &self, x: &Tensor, w: &Tensor, bias: Option<&[f32]>, stride: (usize, usize), pad: (usize, usize), dilation: (usize, usize), groups: usize, ) -> Option<Vec<f32>>

同 crate::ops::conv2d。

fn activate(&self, x: &mut [f32], a: Activation) -> bool

原地激活一段内存，走了后端就返回 true。