MappingType

class torch.ao.quantization.observer.MappingType(value) [исходный код]

Способ преобразования числа с плавающей точкой в целое число

При симметричном отображении диапазон чисел с плавающей точкой симметрично отображается на целочисленный диапазон. Допустим, у нас есть диапазон чисел с плавающей точкой (-3.5, 10.2) и целочисленный диапазон (-8, 7) (int4). Мы будем использовать (-10.2, 10.2) в качестве диапазона чисел с плавающей точкой и отобразим его на (-8, 7), например: scale = (10.2 - (-10.2)) / (7 - (-8))

SYMMETRIC_NO_CLIPPING_ERR — это вариант симметричного отображения, в котором scale равен максимуму из smin и smax, где smin = min_val_neg / quant_min, а smax = max_val_pos / quant_max. Вычисление smin и smax по отдельности может уменьшить погрешность округления для отрицательных значений и гарантирует, что ни одно значение с плавающей точкой не выйдет за пределы диапазона.

При асимметричном отображении диапазон чисел с плавающей точкой напрямую отображается на целочисленный диапазон. В приведённом выше примере мы отобразим (-3.5, 10.2) на (-8, 7) и вычислим параметры квантования на основе этого отображения, например: scale = (10.2 - (-3.5)) / (7 - (-8))