tensorflow::ops::Деквантизация

#include <array_ops.h>

Деквантизация тензора 'input' в тензор с плавающей точкой или bfloat16 Tensor.

Описание

[min_range, max_range] — скалярные значения с плавающей точкой, определяющие диапазон для вывода. Атрибут 'mode' контролирует точные вычисления для преобразования значений с плавающей точкой в их квантованные эквиваленты.

В режиме 'MIN_COMBINED' каждое значение тензора преобразуется следующим образом:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))

range(T) = numeric_limits::max() - numeric_limits::min()

Пример режима MIN_COMBINED

Если вход поступает из QuantizedRelu6, тип вывода — quint8 (диапазон от 0 до 255), но возможный диапазон QuantizedRelu6 — от 0 до 6. Значения min_range и max_range, следовательно, равны 0.0 и 6.0. Деквантизация для quint8 будет принимать каждое значение, преобразовывать его в float и умножать на 6 / 255. Обратите внимание, что если quantizedtype равен qint8, операция дополнительно добавит к каждому значению 128 до преобразования в float.

Если режим — 'MIN_FIRST', используется следующий подход:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Если режим — SCALED, деквантизация выполняется путем умножения каждого входного значения на scaling_factor. (Таким образом, вход 0 всегда отображается как 0.0).

Значение scaling_factor определяется из min_range, max_range и narrow_range таким образом, чтобы оно было совместимо с QuantizeAndDequantize{V2|V3} и QuantizeV2, используя следующий алгоритм:

const int min_expected_T = std::numeric_limits::min() +
  (narrow_range ? 1 : 0);
const int max_expected_T = std::numeric_limits::max();
const float max_expected_T = std::numeric_limits::max();

const float scale_factor =
  (std::numeric_limits::min() == 0) ? (max_range / max_expected_T)
                                       : std::max(min_range / min_expected_T,
                                                  max_range / max_expected_T);

Аргументы:

• scope: Объект Scope
• min_range: Минимальное скалярное значение, которое может быть получено для входа.
• max_range: Максимальное скалярное значение, которое может быть получено для входа.

Необязательные атрибуты (см. Attrs):

• dtype: Тип тензора вывода. В настоящее время Деквантизация поддерживает float и bfloat16. Если 'dtype' равен 'bfloat16', поддерживается только режим 'MIN_COMBINED'.

Возвращаемое значение:

• Output: Тензор вывода.

Публичные атрибуты

Operation operation

::tensorflow::Output output

Публичные функции

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

::tensorflow::Node * node() const 

operator::tensorflow::Input() const 

operator::tensorflow::Output() const 

Публичные статические функции

Attrs Axis(
  int64 x
)

Attrs Dtype(
  DataType x
)

Attrs Mode(
  StringPiece x
)

Attrs NarrowRange(
  bool x
)