ruDNN 0.1.67

Neural network operators for Ruda.
Documentation 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

//! Native ACLNN neural-network operations on CANN-owned tensors.
pub use ruda_driver_cann::CannError;
pub use ruda_driver_cann::tensor::{CannSession, CannTensor, DType};

pub fn softmax(input: &CannTensor, dim: i64) -> Result<CannTensor, CannError> {
    input.session().softmax(input, dim)
}

pub fn silu(input: &CannTensor) -> Result<CannTensor, CannError> {
    input.session().silu(input)
}

pub fn rms_norm(
    input: &CannTensor,
    gamma: &CannTensor,
    epsilon: f64,
) -> Result<(CannTensor, CannTensor), CannError> {
    input.session().rms_norm(input, gamma, epsilon)
}