tf.raw_ops.Dequantize

Деквантует тензор «input» в тензор типа float или bfloat16.

tf.raw_ops.Dequantize(
    input,
    min_range,
    max_range,
    mode='MIN_COMBINED',
    narrow_range=False,
    axis=-1,
    dtype=tf.dtypes.float32,
    name=None
)

[min_range, max_range] — скалярные значения типа float, задающие диапазон выходных данных. Атрибут «mode» определяет, какие именно вычисления используются для преобразования значений float в соответствующие квантованные значения.

В режиме 'MIN_COMBINED' для каждого значения тензора выполняется следующее:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))

здесь range(T) = numeric_limits<T>::max() - numeric_limits<T>::min()

Пример режима MIN_COMBINED

Если входные данные получены из QuantizedRelu6, тип выходных данных — quint8 (диапазон 0–255), однако возможный диапазон QuantizedRelu6 составляет 0–6. Поэтому значения min_range и max_range равны 0.0 и 6.0. Операция Dequantize для quint8 преобразует каждое значение в float и умножает его на 6 / 255. Обратите внимание: если quantizedtype — qint8, операция перед преобразованием дополнительно прибавит 128 к каждому значению.

Если задан режим 'MIN_FIRST', используется следующий подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast<double>(input) - lowest_quantized;
result = range_min + ((input - numeric_limits<T>::min()) * range_scale)

Если задан режим SCALED, деквантизация выполняется путем умножения каждого входного значения на scaling_factor. (Таким образом, входное значение 0 всегда преобразуется в 0.0.)

Значение scaling_factor определяется на основе min_range, max_range и narrow_range способом, совместимым с QuantizeAndDequantize{V2|V3} и QuantizeV2, с помощью следующего алгоритма:

const int min_expected_T = std::numeric_limits<T>::min() +
  (narrow_range ? 1 : 0);
const int max_expected_T = std::numeric_limits<T>::max();
const float max_expected_T = std::numeric_limits<float>::max();

const float scale_factor =
  (std::numeric_limits<T>::min() == 0) ? (max_range / max_expected_T)
                                       : std::max(min_range / min_expected_T,
                                                  max_range / max_expected_T);