tf.raw_ops.QuantizeV2

Квантует тензор «input» типа float в тензор «output» типа «T».

tf.raw_ops.QuantizeV2(
    input, min_range, max_range, T, mode='MIN_COMBINED',
    round_mode='HALF_AWAY_FROM_ZERO', narrow_range=False, axis=-1,
    ensure_minimum_range=0.01, name=None
)

[min_range, max_range] — скалярные числа с плавающей запятой, которые задают диапазон данных «input». Атрибут «mode» управляет точными расчетами, используемыми для преобразования значений с плавающей запятой в их квантованные эквиваленты. Атрибут «round_mode» управляет алгоритмом округления привязок, используемым при округлении значений с плавающей запятой до их квантованных эквивалентов.

В режиме «MIN_COMBINED» каждое значение тензора претерпит следующее:

out[i] = (in[i] - min_range) * range(T) / (max_range - min_range)
if T == qint8: out[i] -= (range(T) + 1) / 2.0

здесь range(T) = numeric_limits<T>::max() - numeric_limits<T>::min()

Пример режима MIN_COMBINED

Предположим, что входной тип — float, а возможный диапазон — [0,0, 6,0], а выходной тип — quint8 ([0, 255]). Значения min_range и max_range должны быть указаны как 0,0 и 6,0. Квантование из float в quint8 будет умножать каждое значение входных данных на 255/6 и преобразовывать к типу quint8.

Если выходной тип был qint8 ([-128, 127]), операция дополнительно вычтет из каждого значения 128 перед преобразованием, чтобы диапазон значений соответствовал диапазону qint8.

Если режим «MIN_FIRST», то используется этот подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = num_discrete_values / range
quantized = round(input * range_scale) - round(range_min * range_scale) +
  numeric_limits<T>::min()
quantized = max(quantized, numeric_limits<T>::min())
quantized = min(quantized, numeric_limits<T>::max())

Основное отличие от MIN_COMBINED заключается в том, что минимальный диапазон округляется сначала, прежде чем от него вычитается округлённое значение. В режиме MIN_COMBINED вводится небольшая погрешность, где повторяющиеся итерации квантования и деквантования будут вводить всё большую и большую ошибку.

Пример режима SCALED

SCALED режим соответствует подходу к квантованию, используемому в QuantizeAndDequantize{V2|V3}.

Если режим SCALED, квантование выполняется путём умножения каждого входного значения на scaling_factor. Scaling_factor определяется из min_range и max_range как можно большее число, при котором диапазон от min_range до max_range может быть представлен значениями типа T.

const int min_T = std::numeric_limits<T>::min();
const int max_T = std::numeric_limits<T>::max();
const float max_float = std::numeric_limits<float>::max();

const float scale_factor_from_min_side =
    (min_T * min_range > 0) ? min_T / min_range : max_float;
const float scale_factor_from_max_side =
    (max_T * max_range > 0) ? max_T / max_range : max_float;

const float scale_factor = std::min(scale_factor_from_min_side,
                                    scale_factor_from_max_side);

Затем мы используем scale_factor для изменения min_range и max_range следующим образом:

min_range = min_T / scale_factor;
max_range = max_T / scale_factor;

Например, если T = qint8, а изначально min_range = -10, а max_range = 9, мы сравним -128/-10,0 = 12,8 с 127/9,0 = 14,11 и установим scaling_factor = 12,8. В этом случае min_range останется -10, но max_range будет скорректирован до 127 / 12,8 = 9,921875

Таким образом, мы будем квантовать входные значения в диапазоне (-10, 9,921875) до (-128, 127).

Теперь входной тензор можно квантовать, ограничив значения в диапазоне min_range до max_range, а затем умножив на scale_factor следующим образом:

result = round(min(max_range, max(min_range, input)) * scale_factor)

Изменённые min_range и max_range возвращаются как выходы 2 и 3 этой операции. Эти выходы должны использоваться в качестве диапазона для последующих расчётов.

Атрибут narrow_range (bool)

Если true, мы не используем минимальное квантованное значение. То есть для int8 квантованный выход будет ограничен диапазоном -127..127 вместо полного диапазона -128..127. Это предоставляется для совместимости с определёнными бэкендами вывода. (Применимо только к режиму SCALED)

Атрибут axis (int)

Дополнительный атрибут axis может указать индекс измерения входного тензора, таким образом, что диапазоны квантования будут вычисляться и применяться отдельно для каждого слайса тензора вдоль этого измерения. Это полезно для квантования по каналам.

Если axis указан, min_range и max_range

если axis=None, выполняется квантование по всему тензору как обычно.

Атрибут ensure_minimum_range (float)

Обеспечивает, что минимальный диапазон квантования не меньше этого значения. Значение по умолчанию для этого в старых версиях 0,01, но для новых применений настоятельно рекомендуется установить его в 0.