tf.quantization.dequantize

Деквантизация тензора 'input' в тензор с плавающей точкой или bfloat16.

tf.quantization.dequantize(
    input,
    min_range,
    max_range,
    mode='MIN_COMBINED',
    name=None,
    axis=None,
    narrow_range=False,
    dtype=tf.dtypes.float32
)

[min_range, max_range] — скалярные числа с плавающей точкой, которые задают диапазон для вывода. Атрибут 'mode' управляет тем, какие именно вычисления используются для преобразования значений с плавающей точкой в их квантованные эквиваленты.

В режиме 'MIN_COMBINED' каждое значение тензора преобразуется следующим образом:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))

здесь range(T) = numeric_limits<T>::max() - numeric_limits<T>::min()

Пример режима MIN_COMBINED

Если вход поступает из QuantizedRelu6, тип вывода — quint8 (диапазон 0-255), но возможный диапазон QuantizedRelu6 — 0-6. Значения min_range и max_range, следовательно, равны 0,0 и 6,0. Деквантизация quint8 возьмёт каждое значение, преобразует его в число с плавающей точкой и умножит на 6 / 255. Обратите внимание, что если quantizedtype — qint8, операция дополнительно прибавит к каждому значению 128 до преобразования в число с плавающей точкой.

Если режим — 'MIN_FIRST', используется такой подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast<double>(input) - lowest_quantized;
result = range_min + ((input - numeric_limits<T>::min()) * range_scale)

Если режим — SCALED, деквантизация выполняется путём умножения каждого входного значения на scaling_factor. (Таким образом, входное значение 0 всегда отображается как 0,0).

scaling_factor определяется из min_range, max_range и narrow_range таким образом, чтобы он был совместим с QuantizeAndDequantize{V2|V3} и QuantizeV2, используя следующий алгоритм:

const int min_expected_T = std::numeric_limits<T>::min() +
  (narrow_range ? 1 : 0);
const int max_expected_T = std::numeric_limits<T>::max();
const float max_expected_T = std::numeric_limits<float>::max();

const float scale_factor =
  (std::numeric_limits<T>::min() == 0) ? (max_range / max_expected_T)
                                       : std::max(min_range / min_expected_T,
                                                  max_range / max_expected_T);