模型推理API概览
本章节主要介绍了模型推理相关的API、数据、结构体、排布及对齐规则等。 通过阅读本章节，您可以在Horizon开发板上利用API完成模型的加载与释放，模型信息的获取，以及模型的推理等操作。
数据结构
| 名称 | 描述 |
|---|---|
| HB_DNN_TENSOR_MAX_DIMENSIONS | 张量最大的维度 |
| hbDNNPackedHandle_t | DNN句柄，指向打包的多个模型 |
| hbDNNHandle_t | DNN句柄，指向单一模型 |
| hbDNNDataType | 张量的类型 |
| hbDNNTensorShape | 张量的形状 |
| hbDNNDescType | 描述信息类型 |
| hbDNNQuantiScale | 量化/反量化的缩放数据 |
| hbDNNQuantiType | 定点浮点转换的量化/反量化类型 |
| hbDNNTensorProperties | 张量的信息 |
| hbDNNTensor | 张量 |
功能接口
| 名称 | 描述 |
|---|---|
| hbDNNGetVersion | 获取DNN预测库版本信息 |
| hbDNNInitializeFromFiles | 从文件完成对 dnnPackedHandle 的创建和初始化 |
| hbDNNInitializeFromDDR | 从内存完成对 dnnPackedHandle 的创建和初始化 |
| hbDNNRelease | 将 dnnPackedHandle 所指向的模型释放 |
| hbDNNGetModelNameList | 获取 dnnPackedHandle 所指向模型的名称列表和个数 |
| hbDNNGetModelHandle | 从 dnnPackedHandle
所指向模型列表中获取一个模型的句柄 |
| hbDNNGetInputCount | 获取 dnnHandle 所指向模型输入张量的个数 |
| hbDNNGetInputName | 获取 dnnHandle 所指向模型输入张量的名称 |
| hbDNNGetInputTensorProperties | 获取 dnnHandle 所指向模型特定输入张量的属性 |
| hbDNNGetOutputCount | 获取 dnnHandle 所指向模型输出张量的个数 |
| hbDNNGetOutputName | 获取 dnnHandle 所指向模型输出张量的名称 |
| hbDNNGetOutputTensorProperties | 获取 dnnHandle 所指向模型特定输出张量的属性 |
| hbDNNGetInputDesc | 获取 dnnHandle 指向模型特定输入所关联的描述信息 |
| hbDNNGetOutputDesc | 获取 dnnHandle 指向模型特定输出所关联的描述信息 |
| hbDNNGetModelDesc | 获取 dnnHandle 指向模型所关联的描述信息 |
| hbDNNGetHBMDesc | 获取 dnnPackedHandle 和 index 指向hbm所关联的描述信息 |
| hbDNNInferV2 | 根据输入参数创建同步/异步推理任务 |
| hbDNNGetTaskOutputTensorProperties | 获取 taskHandle 指向任务特定输出张量的动态属性 |
| hbDNNGetErrorDesc | 将错误码翻译成自然语言 |
页面目录