tf.raw_ops.QuantizedMatMulWithBiasAndReluAndRequantize

Выполнить квантованное матричное умножение a на матрицу b с смещением

tf.raw_ops.QuantizedMatMulWithBiasAndReluAndRequantize(
    a,
    b,
    bias,
    min_a,
    max_a,
    min_b,
    max_b,
    min_freezed_output,
    max_freezed_output,
    Toutput=tf.dtypes.quint8,
    transpose_a=False,
    transpose_b=False,
    input_quant_mode='MIN_FIRST',
    name=None
)

слияние добавления, relu и переквантования.

Вводные данные должны быть двумерными матрицами и одномерным вектором смещения. И внутренняя размерность a (после транспонирования, если transpose_a отлична от нуля) должна соответствовать внешней размерности b (после транспонирования, если transposed_b отлична от нуля). Затем выполняется операция широковещательного сложения со значениями смещения по результату матричного умножения. Размер смещения должен соответствовать внутренней размерности b. Затем выполняется активация relu для получения неотрицательного результата. Затем выполняется операция переквантования для получения конечного результата uint8.

Аргументы: a: A Tensor. Должно быть одним из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица, которая должна быть умножена. Должна быть двумерным тензором типа quint8. b: A Tensor. Должно быть одним из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица, которая должна быть умножена, и должна быть двумерным тензором типа qint8. bias: A Tensor. Должно быть одним из следующих типов: float32, qint32. Одномерный тензор смещения с размером, соответствующим внутренней размерности b (после транспонирования, если transposed_b отлична от нуля). min_a: A Tensor типа float32. Вещественное значение, которое представляет наименьшее квантованное значение a. max_a: A Tensor типа float32. Вещественное значение, которое представляет наибольшее квантованное значение a. min_b: A Tensor типа float32. Вещественное значение, которое представляет наименьшее квантованное значение b. max_b: A Tensor типа float32. Вещественное значение, которое представляет наибольшее квантованное значение b. min_freezed_output: A Tensor типа float32. Вещественное значение, представляющее наибольшее квантованное значение выходных данных после переквантования. max_freezed_output: A Tensor типа float32. Toutput: Необязательный tf.DType из: tf.qint8, tf.quint8, tf.qint32, tf.qint16, tf.quint16. По умолчанию tf.quint8. transpose_a: Необязательный bool. По умолчанию False. Если True, a транспонируется перед умножением. transpose_b: Необязательный bool. По умолчанию False. Если True, b транспонируется перед умножением. input_quant_mode: Необязательный string из: "MIN_FIRST", "SCALED". По умолчанию "MIN_FIRST". Режим квантования входных данных. Либо MIN_FIRST (по умолчанию), либо SCALED. name: Имя операции (необязательно).

Возвращает: Кортеж из Tensor объектов (out, min_out, max_out).

out: A `Tensor` of type `Toutput`.
min_out: A `Tensor` of type `float32`.
max_out: A `Tensor` of type `float32`.