模型修改及HBIR模型编译

出于某些极大尺寸输入场景下的极致性能需求,部分输入/输出端的量化和转置操作可以融合在数据前处理中一并完成。 此时您可以选择使用 hb_compile 工具移除这些节点,同时hb_compile工具还支持对HBIR模型的编译。

使用方法

使用hb_compile修改模型以及对HBIR模型进行编译时,参考指令如下:

hb_compile --config ${config_file} \ --model ${model.bc}

命令行参数

参数名称参数说明
-h, --help显示帮助信息并退出。
-c, --config

模型编译的配置文件,为yaml格式。

  • 如需移除节点,配置文件中需正确配置march,remove_node_type或remove_node_name参数。
  • 如需对HBIR模型进行编译,配置文件中需正确配置march参数。

yaml文件中参数的配置方法可参考配置文件具体参数信息小节的介绍。

-m, --model 待修改的模型,模型后缀需要为 .bc