tf.raw_ops.QuantizedMatMulWithBiasAndReluAndRequantize

Выполняет квантованное умножение матрицы a на матрицу b с объединением операций сложения смещения, ReLU и повторного квантования.

tf.raw_ops.QuantizedMatMulWithBiasAndReluAndRequantize(
    a,
    b,
    bias,
    min_a,
    max_a,
    min_b,
    max_b,
    min_freezed_output,
    max_freezed_output,
    Toutput=tf.dtypes.quint8,
    transpose_a=False,
    transpose_b=False,
    input_quant_mode='MIN_FIRST',
    name=None
)

Входные данные должны представлять собой двумерные матрицы и одномерный вектор смещения. Внутреннее измерение a (после транспонирования, если transpose_a не равно нулю) должно совпадать с внешним измерением b (после транспонирования, если transposed_b не равно нулю). Затем к результату умножения матриц применяется операция сложения со смещением с широковещательным распространением его значений. Размер смещения должен совпадать с внутренним измерением b. Затем применяется функция активации ReLU для получения неотрицательного результата. После этого выполняется повторное квантование для получения итогового результата типа uint8.

Аргументы: a: Tensor. Должен иметь один из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица для умножения. Должна быть двумерным тензором типа quint8. b: Tensor. Должен иметь один из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица для умножения; должна быть двумерным тензором типа qint8. bias: Tensor. Должен иметь один из следующих типов: float32, qint32. Одномерный тензор смещения, размер которого должен совпадать с внутренним измерением b (после транспонирования, если transposed_b не равно нулю). min_a: Tensor типа float32. Значение с плавающей запятой, соответствующее наименьшему квантованному значению a. max_a: Tensor типа float32. Значение с плавающей запятой, соответствующее наибольшему квантованному значению a. min_b: Tensor типа float32. Значение с плавающей запятой, соответствующее наименьшему квантованному значению b. max_b: Tensor типа float32. Значение с плавающей запятой, соответствующее наибольшему квантованному значению b. min_freezed_output: Tensor типа float32. Значение с плавающей запятой, соответствующее наибольшему квантованному значению выхода после повторного квантования. max_freezed_output: Tensor типа float32. Toutput: Необязательный tf.DType из: tf.qint8, tf.quint8, tf.qint32, tf.qint16, tf.quint16. По умолчанию — tf.quint8. transpose_a: Необязательный bool. По умолчанию — False. Если значение равно true, a транспонируется перед умножением. transpose_b: Необязательный bool. По умолчанию — False. Если значение равно true, b транспонируется перед умножением. input_quant_mode: Необязательный string из: "MIN_FIRST", "SCALED". По умолчанию — "MIN_FIRST". Режим квантования входных данных. Возможные значения: MIN_FIRST (по умолчанию) или SCALED. name: Имя операции (необязательно).

Возвращает: кортеж объектов Tensor (out, min_out, max_out).

out: A `Tensor` of type `Toutput`.
min_out: A `Tensor` of type `float32`.
max_out: A `Tensor` of type `float32`.