tf.raw_ops.UniformQuantizedDotHybrid
Выполняет гибридное квантованное скалярное произведение тензора с плавающей запятой lhs и квантованного тензора rhs.
tf.raw_ops.UniformQuantizedDotHybrid(
lhs,
rhs,
rhs_scales,
rhs_zero_points,
Tout,
rhs_quantization_min_val,
rhs_quantization_max_val,
rhs_quantization_axis=-1,
name=None
)
Для тензора с плавающей запятой lhs и квантованного тензора rhs сначала выполняется квантование lhs, а затем квантованное скалярное произведение квантованных левого и rhs. Внутреннее квантование lhs — это квантование до qint8 с динамическим диапазоном, по пакетам (по оси вдоль оси 0), асимметричное и не суженного диапазона (диапазон [-128, 127]). lhs и rhs должны быть двумерными тензорами, а lhs.dim_size(1) должен совпадать с rhs.dim_size(0). rhs должен быть квантованным тензором, значения данных которого квантованы по формуле: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).
| Аргументы | |
|---|---|
lhs | Tensor. Должен иметь один из следующих типов: float32. Должен быть двумерным тензором типа Tlhs. |
rhs | Tensor. Должен иметь один из следующих типов: qint8. Должен быть двумерным тензором типа Trhs. |
rhs_scales | Tensor типа float32. Значение (значения) float, используемое в качестве масштаба при квантовании исходных данных, представленных rhs. Должен быть скалярным тензором (потензорное квантование) или одномерным тензором размера (rhs.dim_size(1),) (поканальное квантование). |
rhs_zero_points | Tensor типа int32. Значение (значения) int32, используемое в качестве zero_point при квантовании исходных данных, представленных rhs. Условие для формы такое же, как для rhs_scales. |
Tout | tf.DType из типов: tf.float32. Тип выходного тензора. |
rhs_quantization_min_val | int. Минимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs имеет тип qint8, для узкого диапазона следует указать -127, а для обычного — -128. |
rhs_quantization_max_val | int. Максимальное значение квантованных данных, хранящихся в rhs. Например, если Trhs имеет тип qint8, следует указать 127. |
rhs_quantization_axis | Необязательный int. Значение по умолчанию — -1. Указывает индекс измерения тензора, вдоль которого применяется поквантовое квантование срезов. Значение -1 (по умолчанию) указывает на потензорное квантование. Для rhs операции dot поддерживается только потензорное квантование или поканальное квантование вдоль измерения 1. Поэтому для этого атрибута необходимо задать значение -1 или 1. Другие значения не допускаются. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Tensor типа Tout. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UniformQuantizedDotHybrid