tf.raw_ops.UniformQuantizedDotHybrid
Выполнить гибричное квантованное скалярное произведение плавающего тензора lhs и квантованного тензора rhs.
tf.raw_ops.UniformQuantizedDotHybrid(
lhs,
rhs,
rhs_scales,
rhs_zero_points,
Tout,
rhs_quantization_min_val,
rhs_quantization_max_val,
rhs_quantization_axis=-1,
name=None
)
Учитывая плавающее значение lhs и квантованное значение rhs, выполняет квантование lhs, а затем выполняет квантованное скалярное произведение на квантованном левом и rhs. Внутреннее квантование lhs представляет собой квантование в qint8, динамический диапазон, на батч (по оси вдоль оси 0), асимметричное и не в узком диапазоне (диапазон [-128, 127]). lhs и rhs должны быть тензорами 2D, а lhs.dim_size(1) должен соответствовать rhs.dim_size(0). rhs должен быть квантованным тензором, где значение данных квантуется по формуле: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).
| Аргументы | |
|---|---|
lhs | Tensor. Должен быть одним из следующих типов: float32. Должен быть тензором 2D типа Tlhs. |
rhs | Tensor. Должен быть одним из следующих типов: qint8. Должен быть тензором 2D типа Trhs. |
rhs_scales | Tensor типа float32. Плавающее значение(я), используемое как масштаб при квантовании исходных данных, которые представляет rhs. Должен быть скалярным тензором (квантование по всему тензору) или одномерным тензором размера (rhs.dim_size(1),) (квантование по каналу). |
rhs_zero_points | Tensor типа int32. Целочисленное значение(я) 32 бита, используемое как zero_point при квантовании исходных данных, которые представляет rhs. Условие формы такое же, как у rhs_scales. |
Tout | tf.DType из: tf.float32. Тип выходного тензора. |
rhs_quantization_min_val | int. Минимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs — qint8, это должно быть установлено в -127, если квантование в узком диапазоне, или -128, если нет. |
rhs_quantization_max_val | int. Максимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs — qint8, это должно быть установлено в 127. |
rhs_quantization_axis | Необязательный int. По умолчанию -1. Указывает индекс измерения тензора, где применяется квантование по оси для срезков вдоль этой оси. Если установлено в -1 (по умолчанию), это указывает квантование по всему тензору. Для операции dot op rhs поддерживается только квантование по всему тензору или квантование по каналу вдоль измерения 1. Таким образом, это атрибут должен быть установлен на -1 или 1. Другие значения отклоняются. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Tensor типа Tout. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UniformQuantizedDotHybrid