tensorflow::ops::QuantizeDownAndShrinkRange

#include <math_ops.h>

Преобразуйте квантованный тензор 'input' в тензор 'output' с меньшей точностью, используя.

Краткое описание

фактическое распределение значений для максимального использования меньшей разрядности и соответствующей корректировки диапазонов минимального и максимального значений выходных данных.

[input_min, input_max] — скалярные значения с плавающей точкой, определяющие диапазон для интерпретации данных 'input' как чисел с плавающей точкой. Например, если input_min равен -1.0f, а input_max равен 1.0f, и мы имеем дело с квантованными данными типа quint16, то значение 0 в 16-битных данных должно интерпретироваться как -1.0f, а значение 65535 — как 1.0f.

Этот оператор пытается максимально использовать точность в выходных данных с меньшей разрядностью, вычисляя фактические минимальные и максимальные значения, найденные в данных. Например, возможно, в квантованных данных типа quint16 нет значений меньше 16 384 и больше 49 152. Это означает, что необходим только половина диапазона, все интерпретации с плавающей точкой находятся между -0.5f и 0.5f, поэтому, если мы хотим сжать данные в выходные данные типа quint8, мы можем использовать этот диапазон вместо теоретического от -1.0f до 1.0f, который предполагается входными min и max.

На практике это наиболее полезно для получения выходных данных из операций, таких как QuantizedMatMul, которые могут производить выходные данные с большей разрядностью, чем входные, и могут иметь большие потенциальные диапазоны выходных данных, но на практике распределение входных значений использует лишь небольшую часть возможного диапазона. Передав эти выходные данные в этот оператор, мы можем уменьшить их с 32 до 8 бит с минимальной потерей точности.

Аргументы:

• scope: Объект Scope
• input_min: Значение с плавающей точкой, которое представляет минимальное квантованное входное значение.
• input_max: Значение с плавающей точкой, которое представляет максимальное квантованное входное значение.
• out_type: Тип выходных данных. Должен иметь меньшую разрядность, чем Tinput.

Возвращает:

• Output выходные данные
• Output output_min: Значение с плавающей точкой, представляющее минимальное квантованное значение выходных данных.
• Output output_max: Значение с плавающей точкой, представляющее максимальное квантованное значение выходных данных.

Открытые атрибуты

Operation operation

::tensorflow::Output output

::tensorflow::Output output_max

::tensorflow::Output output_min

Открытые функции

 QuantizeDownAndShrinkRange(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input input_min,
  ::tensorflow::Input input_max,
  DataType out_type
)