tensorflow::ops::QuantizeAndDequantizeV2

#include <array_ops.h>

Квантует, а затем деквантует тензор.

Краткое описание

Этот оператор моделирует потерю точности при квантованном прямом проходе следующим образом:

1. Квантует тензор до чисел с фиксированной точкой, которые должны соответствовать целевому методу квантования, когда он используется на этапе вывода.
2. Деквантует его обратно в числа с плавающей запятой для последующих операций, скорее всего, matmul.

Существует несколько способов квантования. Эта версия использует только масштабирование, поэтому 0.0 отображается на 0.

Из указанного 'num_bits' в типе квантованного выходного значения определяется минимальное и максимальное представимые квантованные значения.

Например:

• [-128, 127] для знаковых чисел, num_bits = 8, или
• [0, 255] для беззнаковых чисел, num_bits = 8.

Если range_given == False, начальные input_min, input_max будут определяться автоматически как минимальное и максимальное значения в входном тензоре, в противном случае используются указанные значения input_min, input_max.

Примечание: Если input_min, input_max указаны, они не должны совпадать с фактическими минимальным и максимальным значениями в тензоре. Например, в некоторых случаях может быть полезно указать эти значения таким образом, чтобы низковероятные крайние значения входного распределения обрезались.

Этот оператор определяет максимальный коэффициент масштабирования, который отобразит начальный диапазон [input_min, input_max] на диапазон, который находится в пределах представимого квантованного диапазона.

Он определяет масштаб по одному из input_min и input_max, а затем обновляет другой, чтобы максимизировать представимый диапазон.

Например:

• Если выход знаковый, num_bits = 8, [input_min, input_max] = [-10.0, 5.0]: он использует коэффициент масштабирования -128 / -10.0 = 12.8. В этом случае он обновит input_max до 127 / 12.8 = 9.921875
• Если выход знаковый, num_bits = 8, [input_min, input_max] = [-10.0, 10.0]: он использует коэффициент масштабирования 127 / 10.0 = 12.7. В этом случае он обновит input_min до 128.0 / 12.7 = -10.07874
• Если выход беззнаковый, input_min принудительно устанавливается в 0, и используется только указанный input_max.

После определения коэффициента масштабирования и обновления входного диапазона он применяет следующее к каждому значению в тензоре 'input'.

output = round(clamp(value, input_min, input_max) * scale_factor) / scale_factor.

Функция round выше округляет значение на основе заданного режима округления.

Аргументы:

• scope: Объект Scope
• input: Тензор, который нужно квантовать, а затем деквантовать.
• input_min: Если range_given == True, это указывает минимальное входное значение, которое необходимо представить, иначе оно определяется по минимальному значению тензора input.
• input_max: Если range_given == True, это указывает максимальное входное значение, которое необходимо представить, иначе оно определяется по максимальному значению тензора input.

Дополнительные атрибуты (см. Attrs):

• signed_input: Является ли квантование знаковым или беззнаковым. (на самом деле этот параметр должен был называться signed_output )
• num_bits: Разрядность квантования.
• range_given: Указан ли диапазон или он должен быть определен по тензору input.
• round_mode: Атрибут 'round_mode' управляет алгоритмом округления при разрыве связей, используемым при округлении значений с плавающей запятой до их квантованных эквивалентов. В настоящее время поддерживаются следующие режимы округления:
• HALF_TO_EVEN: это режим округления по умолчанию.
• HALF_UP: округлять в сторону положительного. В этом режиме 7.5 округляется до 8, а -7.5 округляется до -7.
• narrow_range: Если True, то абсолютное значение минимального квантованного значения равно максимальному квантованному значению, а не на 1 больше. Например, для 8-битного квантования минимальное значение равно -127, а не -128.

Возвращает:

• Output: Выходной тензор.

Публичные атрибуты

Operation operation

::tensorflow::Output output

Публичные функции

 QuantizeAndDequantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max
)

 QuantizeAndDequantizeV2(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max,
  const QuantizeAndDequantizeV2::Attrs & attrs
)

::tensorflow::Node * node() const 

operator::tensorflow::Input() const 

operator::tensorflow::Output() const 

Публичные статические функции

Attrs NarrowRange(
  bool x
)

Attrs NumBits(
  int64 x
)

Attrs RangeGiven(
  bool x
)

Attrs RoundMode(
  StringPiece x
)

Attrs SignedInput(
  bool x
)