模型处理
model-evaluation
传统机器学习模型评估模板(代码入口 job-template/job/model_evaluation/launcher.py)。
入参:
- true_dataset_path:真实数据集地址,如
/mnt/admin/pipeline/example/ml/train.csv - true_label_column:真实数据集 label 列,如
y - pred_dataset_path:预测数据集地址,如
/mnt/admin/pipeline/example/ml/inference_result.csv - pred_label_column:预测数据集 label 列,如
y - save_result_path:评估结果保存地址,如
/mnt/admin/pipeline/example/ml/evaluation.json - eval_type:评估类型/指标,如
分类-accuracy(多个指标用逗号分隔) - model_type:模型类型,如
classify(分类还是回归)
模型转换(model-convert)
将 PyTorch / YOLO 模型导出成 ONNX,并可进一步分发到边缘多格式(OpenVINO/NCNN/MNN/TFLite/RKNN/TensorRT engine/SDK lib)。
⚠️ 已按代码更新:源使用文档此处描述的是旧版接口(
model-path/onnx-path/framework/supported-pipelines/opset)。当前模板job-template/job/model-convert/start.py:20-44已重构,入参如下,请以代码为准。
入参(当前版本):
- model_type:模型种类,
yolo或torch,默认torch - model_path:待转换的 PyTorch 模型文件路径
- arch:
model_type=torch时的架构名,可留空让脚本猜测 - input_name:ONNX 输入名,多输入用逗号分隔,
none表示自动 - output_name:ONNX 输出名,多输出用逗号分隔,
none表示自动 - export_model_path:导出 ONNX 的完整路径(含文件名),其它格式产物会落到同目录,默认
/mnt/pipeline/example/export-onnx/export.onnx - do_quantize:是否对 ONNX 做 INT8 动态量化,生成
*-int8.onnx,默认false - onnx2engine:是否生成 TensorRT FP32/FP16 engine 文件(等价于把 engine 加进
--export_format),默认false - export_format:导出格式列表,逗号分隔,可选
onnx,openvino,ncnn,mnn,tflite,rknn,engine,lib,默认onnx(ONNX 是其它 backend 的前置产物,会自动补上) - rknn_target_platform:RKNN 目标芯片,如 rk3566/rk3568/rk3588/rk3399pro/rv1103/rv1106 等,默认
rk3588 - lib_target:lib 输出平台,
linux产 .so /windows产 .dll /both两者都产,默认linux - lib_precision:lib 嵌入的 ONNX 精度,
fp32直接嵌入,fp16先转 fp16 再嵌入,默认fp32 - lib_name:生成的库基础名称(不含前后缀),默认
model_inference