Crate paddle_inference
source · [−]Expand description
Paddle Inference
本库是对百度飞浆推理库C接口的封装,详细说明请参考官方文档
使用说明
- 编译前请先下载或编译预测库
- 使用时请确保
paddle_inference_c
的动态库及其第三方依赖库能被正常搜索到。如:- Windows 下动态库及第三方依赖库目录应在环境变量
PATH
中 - Linux 下动态库及第三方依赖库目录应在环境变量
LD_LIBRARY_PATH
中
- Windows 下动态库及第三方依赖库目录应在环境变量
使用示例
use paddle_inference::config::model::Model;
use paddle_inference::config::setting::Cpu;
use paddle_inference::Predictor;
let predictor = Predictor::builder(Model::path(
"模型文件路径",
"模型参数文件路径",
))
// 使用 CPU 识别
.cpu(Cpu {
threads: Some(std::thread::available_parallelism().unwrap().get() as i32),
mkldnn: None,
})
// 设置缓存陌路
.set_optimization_cache_dir("caches".to_string())
// 创建 Predictor
.build();
let names = predictor.input_names();
println!("输入名称列表长度: {}", names.len());
// 获取和设置输入数据
let input = predictor.input(&names.get(0).unwrap());
input.reshape(&[1, 3, 100, 100]);
input.copy_from_f32(&[0.0; 3 * 100 * 100]);
// 执行
println!("run: {}", predictor.run());
let names = predictor.output_names();
println!("output names len: {}", names.len());
let output = predictor.output(&names.get(0).unwrap());
println!("output type: {:?}", output.data_type());
println!("output shape: {:?}", output.shape());
Modules
Macros
用于快速调用实现了ctypes::Function
的对象