tf.raw_ops.QuantizedMatMulWithBias
Выполняет квантованное умножение матрицы a на матрицу b с добавлением смещения.
tf.raw_ops.QuantizedMatMulWithBias(
a,
b,
bias,
min_a,
max_a,
min_b,
max_b,
Toutput=tf.dtypes.qint32,
transpose_a=False,
transpose_b=False,
input_quant_mode='MIN_FIRST',
name=None
)
Входные данные должны представлять собой двумерные матрицы и одномерный вектор смещения. Внутреннее измерение a (после транспонирования, если transpose_a не равно нулю) должно совпадать с внешним измерением b (после транспонирования, если transposed_b не равно нулю). Затем к результату умножения матриц выполняется операция сложения со значениями смещения с широковещательной передачей. Размер смещения должен совпадать с внутренним измерением b.
Аргументы: a: Tensor. Должен иметь один из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица для умножения. Должна быть двумерным тензором типа quint8. b: Tensor. Должен иметь один из следующих типов: qint8, quint8, qint32, qint16, quint16. Матрица для умножения, которая должна быть двумерным тензором типа qint8. bias: Tensor. Должен иметь один из следующих типов: float32, qint32. Одномерный тензор смещения, размер которого совпадает с внутренним измерением b (после транспонирования, если transposed_b не равно нулю). min_a: Tensor типа float32. Значение с плавающей запятой, которому соответствует наименьшее квантованное значение a. max_a: Tensor типа float32. Значение с плавающей запятой, которому соответствует наибольшее квантованное значение a. min_b: Tensor типа float32. Значение с плавающей запятой, которому соответствует наименьшее квантованное значение b. max_b: Tensor типа float32. Значение с плавающей запятой, которому соответствует наибольшее квантованное значение b. Toutput: Необязательный tf.DType из: tf.qint8, tf.quint8, tf.qint32, tf.qint16, tf.quint16. По умолчанию — tf.qint32. transpose_a: Необязательный bool. По умолчанию — False. Если значение истинно, a транспонируется перед умножением. transpose_b: Необязательный bool. По умолчанию — False. Если значение истинно, b транспонируется перед умножением. input_quant_mode: Необязательный string из: "MIN_FIRST", "SCALED". По умолчанию — "MIN_FIRST". Режим квантования входных данных. MIN_FIRST (по умолчанию) или SCALED. name: Имя операции (необязательно).
Возвращает: Кортеж из объектов Tensor (out, min_out, max_out).
out: A `Tensor` of type `Toutput`. min_out: A `Tensor` of type `float32`. max_out: A `Tensor` of type `float32`.
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/QuantizedMatMulWithBias