tensorflow::ops::QuantizeDownAndShrinkRange

#include <math_ops.h>

Преобразовать квантованный тензор 'input' в тензор 'output' с меньшей точностью, используя.

Краткое описание

фактическое распределение значений для максимального использования меньшей разрядности и соответствующей корректировки диапазонов минимального и максимального значений для выхода.

[input_min, input_max] — скалярные значения с плавающей точкой, которые задают диапазон для представления данных 'input' в формате с плавающей точкой. Например, если input_min — -1.0f, а input_max — 1.0f, и мы работаем с квантованными данными типа quint16, то значение 0 в 16-битовых данных должно интерпретироваться как -1.0f, а значение 65535 — как 1.0f.

Этот оператор пытается максимально сохранить точность в выходе с меньшей разрядностью, вычисляя фактические минимальное и максимальное значения, обнаруженные в данных. Например, может быть, в квантованных данных типа quint16 нет значений ниже 16 384 и выше 49 152. Это означает, что нужен только половина диапазон, все значения с плавающей точкой находятся между -0.5f и 0.5f, поэтому если мы хотим сжать данные в выходной тензор типа quint8, мы можем использовать этот диапазон, а не теоретический диапазон от -1.0f до 1.0f, который предполагается минимальным и максимальным значениями входных данных.

На практике это наиболее полезно для получения вывода из операций, таких как QuantizedMatMul, которые могут производить выходные данные с большей разрядностью, чем их входные данные, и могут иметь большие потенциальные диапазоны выходных значений, но на практике распределение входных значений использует только небольшую часть возможного диапазона. Передав этот вывод в этот оператор, мы можем уменьшить его с 32 бит до 8 с минимальной потерей точности.

Аргументы:

• scope: Объект Scope
• input_min: Значение с плавающей точкой, представляющее минимальное квантованное входное значение.
• input_max: Значение с плавающей точкой, представляющее максимальное квантованное входное значение.
• out_type: Тип выходных данных. Должен иметь меньшую разрядность, чем Tinput.

Возвращаемые значения:

• Output выход
• Output output_min: Значение с плавающей точкой, представляющее минимальное квантованное выходное значение.
• Output output_max: Значение с плавающей точкой, представляющее максимальное квантованное выходное значение.

Общедоступные атрибуты

Operation operation

::tensorflow::Output output

::tensorflow::Output output_max

::tensorflow::Output output_min

Общедоступные функции

 QuantizeDownAndShrinkRange(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max,
  DataType out_type
)