浮点模型准备

在您阅读本节内容前,我们建议您先阅读我们的 工具链算子支持约束列表 章节,对地平线支持的算子及约束条件进行了解。或在您导出ONNX模型后,可以先参考 验证模型 章节的内容,验证模型是否能被地平线支持完成正常转换部署。

基于公开DL框架训练得到的浮点模型是转换工具的输入,目前转换工具支持的DL框架如下:

框架地平线工具链
Caffe支持
PyTorch支持(转ONNX)
TensorFlow支持(转ONNX)
TensorFlow Lite支持(转ONNX)
PaddlePaddle支持(转ONNX)
其他框架请联系地平线

以上框架中,除Caffe导出的caffemodel是直接支持的,其余框架均为转到ONNX实现间接支持,ONNX目前支持的opset版本是opset10-19。

  • 对于Caffe模型,您可先完成模型浮点精度的评测以确保模型的权重及结构正确。

  • 对于ONNX模型,您需先使用HBRuntime进行推理,验证ONNX模型和原DL框架模型推理结果一致(即验证模型合法性)。

对于不同框架到ONNX的转换,目前都有对应的标准化方案,参考如下:

注意

原始模型限制:ir_version≤9,10≤opset=≤19,ir_version与onnx版本的对应关系请参考 onnx官方文档