tensorflow::ops::QuantizeAndDequantizeV2

#include <array_ops.h>

Квантует, а затем деквантует тензор.

Краткое описание

Этот оператор моделирует потерю точности при квантованном прямом проходе:

1. Квантование тензора до чисел с фиксированной точкой, которое должно соответствовать целевому методу квантования при использовании в инференции.
2. Деквантование обратно до чисел с плавающей точкой для последующих операторов, скорее всего, matmul.

Существуют разные способы квантования. Этот вариант использует только масштабирование, поэтому 0.0 отображается как 0.

Из указанного «num_bits» в типе квантованного результата определяется минимальное и максимальное представимые квантованные значения.

Например:

• [-128, 127] для знаковых чисел, num_bits = 8, или
• [0, 255] для беззнаковых чисел, num_bits = 8.

Если range_given == False, начальные input_min, input_max будут определены автоматически как минимальное и максимальное значения в тензоре входных данных, в противном случае используются указанные значения input_min, input_max.

Примечание: Если input_min, input_max указаны, они не обязательно должны быть равны фактическим минимальному и максимальному значениям в тензоре. Например, в некоторых случаях может быть полезно указать эти значения таким образом, чтобы низковероятные крайние значения распределения входных данных обрезались.

Этот оператор определяет максимальный scale_factor, который отобразит начальный диапазон [input_min, input_max] в диапазон, который лежит внутри представимого квантованного диапазона.

Он определяет scale по одному из input_min и input_max, затем обновляет другое значение, чтобы максимизировать представимый диапазон.

Например:

• Если результат знаковый, num_bits = 8, [input_min, input_max] = [-10.0, 5.0]: он будет использовать scale_factor -128 / -10.0 = 12.8. В этом случае он обновит input_max до 127 / 12.8 = 9.921875
• Если результат знаковый, num_bits = 8, [input_min, input_max] = [-10.0, 10.0]: он будет использовать scale_factor 127 / 10.0 = 12.7. В этом случае он обновит input_min до 128.0 / 12.7 = -10.07874
• Если результат беззнаковый, input_min принудительно устанавливается в 0, и используется только указанный input_max.

После определения scale_factor и обновления диапазона входных данных он применяет следующее к каждому значению в тензоре «input».

output = round(clamp(value, input_min, input_max) * scale_factor) / scale_factor.

Функция round выше округляет значение на основе заданного round_mode.

Аргументы:

• scope: Объект Scope
• input: Тензор для квантования и деквантования.
• input_min: Если range_given == True, это указывает минимальное входное значение, которое необходимо представить, в противном случае оно определяется из минимального значения тензора input.
• input_max: Если range_given == True, это указывает максимальное входное значение, которое необходимо представить, в противном случае оно определяется из максимального значения тензора input.

Необязательные атрибуты (см. Attrs):

• signed_input: Является ли квантование знаковым или беззнаковым. (на самом деле этот параметр должен был называться signed_output )
• num_bits: Разрядность квантования.
• range_given: Указан ли диапазон или должен быть определён из тензора input.
• round_mode: Атрибут «round_mode» управляет алгоритмом обработки связей при округлении значений с плавающей точкой до их квантованных эквивалентов. В настоящее время поддерживаются следующие режимы округления:
• HALF_TO_EVEN: это режим округления по умолчанию.
• HALF_UP: округление вверх. В этом режиме 7.5 округляется до 8, а -7.5 округляется до -7.
• narrow_range: Если True, абсолютное значение минимального квантованного значения равно максимальному квантованному значению, а не на 1 больше. То есть для 8-битного квантования минимальное значение равно -127, а не -128.
• axis: Если указано, этот ось рассматривается как ось канала или среза, и для каждого канала или среза вдоль этой оси используется отдельный диапазон квантования.

Возвращает:

• Output: Тензор результата.

Публичные атрибуты

Operation operation

::tensorflow::Output output

Публичные функции

 QuantizeAndDequantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max
)

 QuantizeAndDequantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max,
  const QuantizeAndDequantizeV2::Attrs & attrs
)

::tensorflow::Node * node() const 

operator::tensorflow::Input() const 

operator::tensorflow::Output() const 

Публичные статические функции

Attrs Axis(
  int64 x
)

Attrs NarrowRange(
  bool x
)

Attrs NumBits(
  int64 x
)

Attrs RangeGiven(
  bool x
)

Attrs RoundMode(
  StringPiece x
)

Attrs SignedInput(
  bool x
)