torch.fake_quantize_per_tensor_affine

torch.fake_quantize_per_tensor_affine(input, scale, zero_point, quant_min, quant_max) → Tensor

Возвращает новый тензор с данными в input фейк-квантизованными с использованием scale, zero_point, quant_min и quant_max.

$$\text{output} = min( \text{quant\_max}, max( \text{quant\_min}, \text{std::nearby\_int}(\text{input} / \text{scale}) + \text{zero\_point} ) )$$

Параметры:

• input (Тензор) – входное значение(я), torch.float32 тензор
• scale (скаляр double или float32 Тензор) – шкала квантования
• zero_point (скаляр int64 или int32 Тензор) – квантовое значение zero_point
• quant_min (int64) – нижняя граница квантованной области
• quant_max (int64) – верхняя граница квантованной области

Возвращаемое значение:

Новый фейк-квантизованный torch.float32 тензор

Тип возвращаемого значения:

Тензор

Пример:

>>> x = torch.randn(4)
>>> x
tensor([ 0.0552,  0.9730,  0.3973, -1.0780])
>>> torch.fake_quantize_per_tensor_affine(x, 0.1, 0, 0, 255)
tensor([0.1000, 1.0000, 0.4000, 0.0000])
>>> torch.fake_quantize_per_tensor_affine(x, torch.tensor(0.1), torch.tensor(0), 0, 255)
tensor([0.6000, 0.4000, 0.0000, 0.0000])