张量的信息。
成员名称 | 描述 |
---|---|
validShape |
|
tensorType |
|
scale |
|
quantiType |
|
quantizeAxis |
|
alignedByteSize |
|
stride |
|
validShape
字段中若某些维度为 -1
,则代表模型的 validShape
在该维度上为动态输入,需要您在创建任务前根据实际输入进行填写。
quantizeAxis
表示量化轴索引所在维度,仅按 per-axis
量化时生效,当数据按照 per-tensor
量化时 quantizeAxis
为负数。
通过接口获取的张量信息为模型要求的,您可以根据实际输入修改对应的张量信息,目前只允许修改 stride
和 tensorType
的信息,而且必须符合要求。
stride
:
若您根据 stride
准备输入,则无需更改 stride
。
若您根据 validShape
准备输入,则需更改 stride
的值为 validShape
各维度跳跃的步长,推理库内部会对数据进行padding操作。
若从模型获取的 stride
中某些维度为 -1
,则代表模型的 stride
在该维度上为动态输入,需要您在创建任务前根据实际输入进行填写。填写的约束请参考 动态输入介绍 章节。
alignedByteSize
表示tensor中占据的内存空间大小,非动态场景下一般可用来申请输入输出内存。