出于某些极大尺寸输入场景下的极致性能需求,部分输入/输出端的量化和转置操作可以融合在数据前处理中一并完成。
此时您可以选择使用 hb_compile
工具移除这些节点,同时hb_compile
工具还支持对HBIR模型的编译。
使用hb_compile修改模型以及对HBIR模型进行编译时,参考指令如下:
参数名称 | 参数说明 |
-h, --help | 显示帮助信息并退出。 |
-c, --config | 模型编译的配置文件,为yaml格式。
yaml文件中参数的配置方法可参考配置文件具体参数信息小节的介绍。 |
-m, --model | 待修改的模型,模型后缀需要为 .bc 。 |