tf.quantization.quantize_and_dequantize
Квантует, затем деквантует тензор. (устаревшее)
tf.quantization.quantize_and_dequantize(
input,
input_min,
input_max,
signed_input=True,
num_bits=8,
range_given=False,
round_mode='HALF_TO_EVEN',
name=None,
narrow_range=False,
axis=None
)
| Аргументы | |
|---|---|
input | Тензор, который нужно квантовать и деквантовать. |
input_min | Если range_given=True, минимальное значение входного значения, которое нужно представить в квантовом представлении. Если задан axis, это должен быть вектор минимальных значений для каждого слайса вдоль оси. |
input_max | Если range_given=True, максимальное значение входного значения, которое нужно представить в квантовом представлении. Если задан axis, это должен быть вектор максимальных значений для каждого слайса вдоль оси. |
signed_input | True, если квантование со знаком, или без знака. |
num_bits | Разрядность квантования. |
range_given | Если true, используйте input_min и input_max для диапазона входных данных, в противном случае определите min и max из входного Tensor. |
round_mode | Режим округления при округлении значений с плавающей запятой до квантованных. одно из ['HALF_TO_EVEN', 'HALF_UP'] |
name | Необязательное имя для операции. |
narrow_range | Если true, абсолютное значение минимального квантованного значения равно квантованному максимальному значению, а не на 1 больше. Например, для 8-битного квантования минимальное значение равно -127, а не -128. |
axis | Целое число. Если указано, относится к размеру тензора входных данных, таким образом, квантование будет выполняться по слайсу вдоль этого измерения. |
| Возвращаемое значение | |
|---|---|
Тензор. Каждый элемент является результатом квантования и деквантования соответствующего элемента input. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/quantization/quantize_and_dequantize