torch.quantize_per_tensor_dynamic

torch.quantize_per_tensor_dynamic(input, dtype, reduce_range) → Tensor

Преобразует тензор с плавающей точкой в квантованный тензор, динамически вычисляя scale и zero_point на основе входных данных.

Параметры:

• input (Tensor) – тензор с плавающей точкой или список тензоров для квантования
• dtype (torch.dtype) – требуемый тип данных возвращаемого тензора. Должен быть одним из квантованных типов данных: torch.quint8, torch.qint8
• reduce_range (bool) – флаг, указывающий, следует ли уменьшить диапазон квантованных
• bit (данных на 1) –
• hardwares (это требуется, чтобы избежать переполнения инструкций на некоторых) –

Возвращает:

Новый (динамически) квантованный тензор

Тип возвращаемого значения:

Tensor

Пример:

>>> t = torch.quantize_per_tensor_dynamic(torch.tensor([-1.0, 0.0, 1.0, 2.0]), torch.quint8, False)
>>> print(t)
tensor([-1.,  0.,  1.,  2.], size=(4,), dtype=torch.quint8,
       quantization_scheme=torch.per_tensor_affine, scale=0.011764705882352941,
       zero_point=85)
>>> t.int_repr()
tensor([  0,  85, 170, 255], dtype=torch.uint8)