tf.raw_ops.UniformQuantize
Выполнить квантование тензора input.
tf.raw_ops.UniformQuantize(
input,
scales,
zero_points,
Tout,
quantization_min_val,
quantization_max_val,
quantization_axis=-1,
name=None
)
Учитывая input, scales и zero_points, выполняет квантование по формуле: quantized_data = floor(input_data * (1.0f / scale) + 0.5f) + zero_point
| Аргументы | |
|---|---|
input | A Tensor. Должен быть одним из следующих типов: float32. Должен быть тензором типа Tin. |
scales | A Tensor типа float32. Значение(я) с плавающей точкой, используемые в качестве масштаба(ов) для квантования input. Должен быть скалярным тензором, если quantization_axis равен -1 (квантование по всему тензору), в противном случае одномерным тензором размера (input.dim_size(quantization_axis),) (квантование по осям). |
zero_points | A Tensor типа int32. Значение(я) типа int32, используемые в качестве zero_point(ов) для квантования input. Те же условия формы, что и у scales. |
Tout | tf.DType из: tf.qint8, tf.qint32. Тип выходного тензора. tf.DType из: tf.float32 |
quantization_min_val | An int. Минимальное значение квантования для квантования input. Цель этого атрибута обычно (но не только) указывать узкий диапазон, где он установлен на: (Tin lowest) + 1, если диапазон узкий, и (Tin lowest) в противном случае. Например, если Tin — qint8, это устанавливается на -127, если квантование с узким диапазоном, или на -128, если нет. |
quantization_max_val | An int. Максимальное значение квантования для квантования input. Цель этого атрибута обычно (но не только) указывать узкий диапазон, где он устанавливается на: (Tout max) как для узкого диапазона, так и для широкого. Например, если Tin — qint8, это устанавливается на 127. |
quantization_axis | Необязательный int. По умолчанию -1. Указывает индекс измерения тензора, где применяется квантование по осям для срезов по этому измерению. Если установлено в -1 (по умолчанию), это указывает квантование по всему тензору. В противном случае, оно должно быть в диапазоне [0, input.dims()). |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
A Tensor типа Tout. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UniformQuantize
