tf.raw_ops.UniformQuantize
Выполняет квантование тензора input.
tf.raw_ops.UniformQuantize(
input,
scales,
zero_points,
Tout,
quantization_min_val,
quantization_max_val,
quantization_axis=-1,
name=None
)
Для input, scales и zero_points выполняется квантование по формуле: quantized_data = floor(input_data * (1.0f / scale) + 0.5f) + zero_point
| Аргументы | |
|---|---|
input | Тензор Tensor. Должен иметь один из следующих типов: float32. Должен быть тензором типа Tin. |
scales | Тензор Tensor типа float32. Значения типа float, используемые в качестве масштаба для квантования input. Если quantization_axis равен -1 (поканальное квантование), должен быть скалярным тензором; в противном случае должен быть одномерным тензором размера (input.dim_size(quantization_axis),) (поканальное квантование). |
zero_points | Тензор Tensor типа int32. Значения типа int32, используемые в качестве нулевых точек для квантования input. Условие для формы такое же, как для scales. |
Tout | tf.DType из списка: tf.qint8, tf.qint32. Тип выходного тензора. tf.DType из списка: tf.float32 |
quantization_min_val | Атрибут int. Минимальное значение для квантования input. Обычно (но не только) этот атрибут предназначен для указания узкого диапазона: в этом случае для узкого диапазона задается (Tin lowest) + 1, а в противном случае — (Tin lowest). Например, если Tin имеет тип qint8, для узкого диапазона задается значение -127, а для обычного — -128. |
quantization_max_val | Атрибут int. Максимальное значение для квантования input. Обычно (но не только) этот атрибут предназначен для указания узкого диапазона; для узкого и обычного диапазонов задается (Tout max). Например, если Tin имеет тип qint8, задается значение 127. |
quantization_axis | Необязательный атрибут int. По умолчанию — -1. Указывает индекс измерения тензора, для срезов по которому применяется поканальное квантование. Если задано значение -1 (по умолчанию), применяется потензорное квантование. В противном случае значение должно находиться в диапазоне [0, input.dims()). |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Тензор Tensor типа Tout. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UniformQuantize