模型处理模板

训练完要评估传统机器学习模型指标,或把 PyTorch/YOLO 模型转 ONNX / 边缘多格式时

05-任务模板 / 模板使用
模型处理model-evaluation模型评估eval_typemodel-convert模型转换onnxtensorrtrknnopenvinoncnnmnntflite量化quantizepytorch转onnx

模型处理

model-evaluation

传统机器学习模型评估模板(代码入口 job-template/job/model_evaluation/launcher.py)。

入参:

  • true_dataset_path:真实数据集地址,如 /mnt/admin/pipeline/example/ml/train.csv
  • true_label_column:真实数据集 label 列,如 y
  • pred_dataset_path:预测数据集地址,如 /mnt/admin/pipeline/example/ml/inference_result.csv
  • pred_label_column:预测数据集 label 列,如 y
  • save_result_path:评估结果保存地址,如 /mnt/admin/pipeline/example/ml/evaluation.json
  • eval_type:评估类型/指标,如 分类-accuracy(多个指标用逗号分隔)
  • model_type:模型类型,如 classify(分类还是回归)

模型转换(model-convert)

将 PyTorch / YOLO 模型导出成 ONNX,并可进一步分发到边缘多格式(OpenVINO/NCNN/MNN/TFLite/RKNN/TensorRT engine/SDK lib)。

⚠️ 已按代码更新:源使用文档此处描述的是旧版接口(model-path/onnx-path/framework/supported-pipelines/opset)。当前模板 job-template/job/model-convert/start.py:20-44 已重构,入参如下,请以代码为准。

入参(当前版本):

  • model_type:模型种类,yolotorch,默认 torch
  • model_path:待转换的 PyTorch 模型文件路径
  • arch:model_type=torch 时的架构名,可留空让脚本猜测
  • input_name:ONNX 输入名,多输入用逗号分隔,none 表示自动
  • output_name:ONNX 输出名,多输出用逗号分隔,none 表示自动
  • export_model_path:导出 ONNX 的完整路径(含文件名),其它格式产物会落到同目录,默认 /mnt/pipeline/example/export-onnx/export.onnx
  • do_quantize:是否对 ONNX 做 INT8 动态量化,生成 *-int8.onnx,默认 false
  • onnx2engine:是否生成 TensorRT FP32/FP16 engine 文件(等价于把 engine 加进 --export_format),默认 false
  • export_format:导出格式列表,逗号分隔,可选 onnx,openvino,ncnn,mnn,tflite,rknn,engine,lib,默认 onnx(ONNX 是其它 backend 的前置产物,会自动补上)
  • rknn_target_platform:RKNN 目标芯片,如 rk3566/rk3568/rk3588/rk3399pro/rv1103/rv1106 等,默认 rk3588
  • lib_target:lib 输出平台,linux 产 .so / windows 产 .dll / both 两者都产,默认 linux
  • lib_precision:lib 嵌入的 ONNX 精度,fp32 直接嵌入,fp16 先转 fp16 再嵌入,默认 fp32
  • lib_name:生成的库基础名称(不含前后缀),默认 model_inference
最后更新 2026-06-30完整文档以官方仓库为准:GitHub Wiki