LPAI Backend Op Definition Supplement

Argmax

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

Argmin

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

Batchnorm

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

BatchToSpace

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Buffer

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Cast

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ChannelShuffle

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Concat

Datatypes

Configuration

in[0..m]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Conv2d

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

in[1]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

Convert

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

DepthToSpace

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

DepthWiseConv2d

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

in[1]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

Dequantize

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

ElementWiseAdd

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseDivide

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseExp

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseLog

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseMaximum

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseMinimum

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseMultiply

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWisePower

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseSquareRoot

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ElementWiseSubtract

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

FullyConnected

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

in[1]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

Gather

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

Gelu

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Gru

Datatypes

Configuration

in[0]

in[10]

in[11]

in[12]

in[13]

in[14]

in[1]

in[2]

in[3]

in[4]

in[5]

in[6]

in[7]

in[8]

in[9]

out[0]

out[1]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

HardSwish

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

LayerNorm

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

LogSoftmax

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Lstm

Datatypes

Configuration

in[0]

in[10]

in[11]

in[16]

in[17]

in[1]

in[24]

in[2]

in[3]

in[4]

in[5]

in[6]

in[7]

in[8]

in[9]

out[0]

out[1]

out[2]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_BOOL_8

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

MatMul

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

in[1]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

Pad

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

PoolAvg2d

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

PoolMax2d

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Prelu

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

ReduceMax

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

ReduceMean

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

ReduceMin

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

ReduceProd

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

ReduceSum

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Relu

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ReluMinMax

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Reshape

Datatypes

Configuration

in[0]

in[1]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Resize

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ResizeBilinear

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

ResizeNearestNeighbor

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

RmsNorm

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Sigmoid

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Softmax

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

SpaceToBatch

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

SpaceToDepth

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Split

Datatypes

Configuration

in[0]

out[0..m]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0..m]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

StridedSlice

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

Tanh

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Transpose

Datatypes

Configuration

in[0]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

out[0]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

    • Math Invariant: True

TransposeConv2d

Datatypes

Configuration

in[0]

in[1]

in[2]

out[0]

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_8

INT16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_SFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_8

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_SFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_8

INT16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_UFIXED_POINT_16

QNN_DATATYPE_FLOAT_32

QNN_DATATYPE_UFIXED_POINT_16

Quantization

Configuration

in[1]

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT8

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_SCALE_OFFSET

    • Bitwidth: 4

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_8

    • Encoding: BW_AXIS_SCALE_OFFSET

    • Bitwidth: 4

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_SFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3

INT16

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: SCALE_OFFSET

  • Quantization Parameters Config:
    • Datatype: QNN_DATATYPE_UFIXED_POINT_16

    • Encoding: AXIS_SCALE_OFFSET

    • Axis: 3