hbDNNDataType

typedef enum { HB_DNN_TENSOR_TYPE_S4, HB_DNN_TENSOR_TYPE_U4, HB_DNN_TENSOR_TYPE_S8, HB_DNN_TENSOR_TYPE_U8, HB_DNN_TENSOR_TYPE_F16, HB_DNN_TENSOR_TYPE_S16, HB_DNN_TENSOR_TYPE_U16, HB_DNN_TENSOR_TYPE_F32, HB_DNN_TENSOR_TYPE_S32, HB_DNN_TENSOR_TYPE_U32, HB_DNN_TENSOR_TYPE_F64, HB_DNN_TENSOR_TYPE_S64, HB_DNN_TENSOR_TYPE_U64, HB_DNN_TENSOR_TYPE_BOOL8, HB_DNN_TENSOR_TYPE_MAX } hbDNNDataType;

张量的类型。

S 代表有符号,U 代表无符号,F 代表浮点型,后面的数字代表bit数。

  • 成员
成员名称描述
HB_DNN_TENSOR_TYPE_S4张量类型为有符号4bit。
HB_DNN_TENSOR_TYPE_U4张量类型为无符号4bit。
HB_DNN_TENSOR_TYPE_S8张量类型为有符号8bit。
HB_DNN_TENSOR_TYPE_U8张量类型为无符号8bit。
HB_DNN_TENSOR_TYPE_F16张量类型为浮点型16bit。
HB_DNN_TENSOR_TYPE_S16张量类型为有符号16bit。
HB_DNN_TENSOR_TYPE_U16张量类型为无符号16bit。
HB_DNN_TENSOR_TYPE_F32张量类型为浮点型32bit。
HB_DNN_TENSOR_TYPE_S32张量类型为有符号32bit。
HB_DNN_TENSOR_TYPE_U32张量类型为无符号32bit。
HB_DNN_TENSOR_TYPE_F64张量类型为浮点型64bit。
HB_DNN_TENSOR_TYPE_S64张量类型为有符号64bit。
HB_DNN_TENSOR_TYPE_U64张量类型为无符号64bit。
HB_DNN_TENSOR_TYPE_BOOL8张量类型为布尔8bit。
HB_DNN_TENSOR_TYPE_MAX代表最大的张量类型编号。