tf.raw_ops.QuantizeDownAndShrinkRange

Преобразует квантованный тензор «input» в тензор «output» с меньшей точностью, используя

tf.raw_ops.QuantizeDownAndShrinkRange(
    input, input_min, input_max, out_type, name=None
)

фактическое распределение значений для максимального использования меньшей разрядности и соответствующей корректировки диапазонов минимального и максимального значений вывода.

[input_min, input_max] — скалярные числа с плавающей точкой, которые задают диапазон для интерпретации данных «input» как чисел с плавающей точкой. Например, если input_min — -1.0f, а input_max — 1.0f, и мы работаем с квантованными данными типа quint16, то значение 0 в 16-битных данных должно интерпретироваться как -1.0f, а 65535 — как 1.0f.

Этот оператор пытается максимально сохранить точность в выводе с меньшей разрядностью, вычисляя фактические минимальные и максимальные значения, найденные в данных. Например, возможно, у квантованного входного значения типа quint16 нет значений меньше 16 384 и больше 49 152. Это означает, что нужен только половина диапазона, все интерпретации чисел с плавающей точкой находятся в пределах от -0.5f до 0.5f, поэтому, если мы хотим сжать данные в вывод типа quint8, мы можем использовать этот диапазон вместо теоретического от -1.0f до 1.0f, который предполагается минимальным и максимальным значениями входных данных.

На практике это наиболее полезно для получения выходных данных из операций, таких как QuantizedMatMul, которые могут генерировать выходные данные с большей разрядностью, чем их входные данные, и могут иметь большие потенциальные диапазоны выходных данных, но на практике распределение значений входных данных использует только небольшую часть возможного диапазона. Направив эти выходные данные в этот оператор, мы можем уменьшить их с 32 до 8 бит с минимальной потерей точности.