LPAI Backend Op Definition Supplement¶
Argmax¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
Argmin¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
Batchnorm¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
BatchToSpace¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Buffer¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Cast¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ChannelShuffle¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Concat¶
Datatypes¶
Configuration |
in[0..m] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Conv2d¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
in[1] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
Convert¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
DepthToSpace¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
DepthWiseConv2d¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
in[1] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
Dequantize¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
ElementWiseAdd¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseDivide¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseExp¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseLog¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseMaximum¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseMinimum¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseMultiply¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWisePower¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseSquareRoot¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ElementWiseSubtract¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
FullyConnected¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
in[1] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
Gather¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Gelu¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Gru¶
Datatypes¶
Configuration |
in[0] |
in[10] |
in[11] |
in[12] |
in[13] |
in[14] |
in[1] |
in[2] |
in[3] |
in[4] |
in[5] |
in[6] |
in[7] |
in[8] |
in[9] |
out[0] |
out[1] |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
HardSwish¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
LayerNorm¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
LogSoftmax¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Lstm¶
Datatypes¶
Configuration |
in[0] |
in[10] |
in[11] |
in[16] |
in[17] |
in[1] |
in[24] |
in[2] |
in[3] |
in[4] |
in[5] |
in[6] |
in[7] |
in[8] |
in[9] |
out[0] |
out[1] |
out[2] |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_BOOL_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
MatMul¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
in[1] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
Pad¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
PoolAvg2d¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
PoolMax2d¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Prelu¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
ReduceMax¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
ReduceMean¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
ReduceMin¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
ReduceProd¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
ReduceSum¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Relu¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ReluMinMax¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Reshape¶
Datatypes¶
Configuration |
in[0] |
in[1] |
out[0] |
|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
Resize¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ResizeBilinear¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
ResizeNearestNeighbor¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
RmsNorm¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Sigmoid¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Softmax¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
SpaceToBatch¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
SpaceToDepth¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Split¶
Datatypes¶
Configuration |
in[0] |
out[0..m] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0..m] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
StridedSlice¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
Tanh¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Transpose¶
Datatypes¶
Configuration |
in[0] |
out[0] |
|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
out[0] |
|---|---|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
TransposeConv2d¶
Datatypes¶
Configuration |
in[0] |
in[1] |
in[2] |
out[0] |
|---|---|---|---|---|
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_SFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_8 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_SFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_8 |
INT16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_UFIXED_POINT_16 |
QNN_DATATYPE_FLOAT_32 |
QNN_DATATYPE_UFIXED_POINT_16 |
Quantization¶
Configuration |
in[1] |
|---|---|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT8 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|
INT16 |
|