tf.raw_ops.QuantizeAndDequantizeV4
Квантует, а затем деквантует тензор.
tf.raw_ops.QuantizeAndDequantizeV4(
input,
input_min,
input_max,
signed_input=True,
num_bits=8,
range_given=False,
round_mode='HALF_TO_EVEN',
narrow_range=False,
axis=-1,
name=None
)
Это почти идентично QuantizeAndDequantizeV2, за исключением того, что возвращает градиент 1 для входных данных, находящихся в диапазоне квантования, или 0 в противном случае.
| Аргументы | |
|---|---|
input | A Tensor. Должен быть одним из следующих типов: bfloat16, half, float32, float64. Тензор для квантования и последующей деквантизации. |
input_min | A Tensor. Должен иметь тот же тип, что и input. Если range_given == True, это указывает минимальное значение входа, которое необходимо представить, иначе оно определяется из минимального значения тензора input. |
input_max | A Tensor. Должен иметь тот же тип, что и input. Если range_given == True, это указывает максимальное значение входа, которое необходимо представить, иначе оно определяется из максимального значения тензора input. |
signed_input | Необязательный bool. По умолчанию True. Указывает, является ли квантование со знаком или без знака. (на самом деле этот параметр должен был называться signed_output) |
num_bits | Необязательный int. По умолчанию 8. Разрядность квантования. |
range_given | Необязательный bool. По умолчанию False. Указывает, задан ли диапазон или он должен быть определен из тензора input. |
round_mode | Необязательный string из: "HALF_TO_EVEN", "HALF_UP". По умолчанию "HALF_TO_EVEN". Атрибут 'round_mode' управляет алгоритмом обработки значений привязки при округлении значений с плавающей запятой до их квантованных эквивалентов. В настоящее время поддерживаются следующие режимы округления:
|
narrow_range | Необязательный bool. По умолчанию False. Если True, абсолютное значение минимального квантованного значения совпадает с квантованным максимальным значением, а не на 1 больше. Т.е. для 8-битного квантования минимальное значение равно -127, а не -128. |
axis | Необязательный int. По умолчанию -1. Если задан, этот ось рассматривается как ось канала или среза, и для каждого канала или среза вдоль этой оси используется отдельный диапазон квантования. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
A Tensor. Имеет тот же тип, что и input. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/raw_ops/QuantizeAndDequantizeV4