tf.raw_ops.QuantizeAndDequantizeV4
Квантует, а затем деквантует тензор.
tf.raw_ops.QuantizeAndDequantizeV4(
input,
input_min,
input_max,
signed_input=True,
num_bits=8,
range_given=False,
round_mode='HALF_TO_EVEN',
narrow_range=False,
axis=-1,
name=None
)
Этот оператор почти полностью совпадает с QuantizeAndDequantizeV2, за исключением того, что он возвращает градиент 1 для входных значений, находящихся в диапазоне квантования, и 0 в противном случае.
| Аргументы | |
|---|---|
input | A Tensor. Должен иметь один из следующих типов: bfloat16, half, float32, float64. Тензор для квантования и последующей деквантизации. |
input_min | A Tensor. Должен иметь тот же тип, что и input. Если range_given == True, задает минимальное входное значение, которое необходимо представить; в противном случае оно определяется по минимальному значению тензора input. |
input_max | A Tensor. Должен иметь тот же тип, что и input. Если range_given == True, задает максимальное входное значение, которое необходимо представить; в противном случае оно определяется по максимальному значению тензора input. |
signed_input | Необязательный bool. По умолчанию — True. Определяет, является ли квантование знаковым или беззнаковым. (На самом деле этот параметр следовало назвать signed_output.) |
num_bits | Необязательный int. По умолчанию — 8. Разрядность квантования. |
range_given | Необязательный bool. По умолчанию — False. Указывает, задан ли диапазон или его следует определить по тензору input. |
round_mode | Необязательный string из: "HALF_TO_EVEN", "HALF_UP". По умолчанию — "HALF_TO_EVEN". Атрибут 'round_mode' задает алгоритм разрешения случаев округления посередине при округлении значений с плавающей точкой до их квантованных эквивалентов. В настоящее время поддерживаются следующие режимы округления:
|
narrow_range | Необязательный bool. По умолчанию — False. Если значение True, абсолютное значение минимального квантованного значения совпадает с максимальным квантованным значением, а не отличается от него на 1. Например, при 8-разрядном квантовании минимальное значение равно -127, а не -128. |
axis | Необязательный int. По умолчанию — -1. Если указана, эта ось рассматривается как ось канала или среза, и для каждого канала или среза вдоль этой оси используется отдельный диапазон квантования. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
A Tensor. Имеет тот же тип, что и input. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/QuantizeAndDequantizeV4