ZeroPointDomain

class torch.ao.quantization.observer.ZeroPointDomain(value) [исходный код]

Перечисление, указывающее, находится ли zero_point в целочисленном домене или в домене с плавающей точкой

целочисленный домен: quantized_val = (float_val / scale) (integer) + zero_point (integer) домен с плавающей точкой: quantized_val = (float_val - (zero_point (float) - scale * mid_point)) / scale домен none: quantized_val = (float_val / scale)