determine_qparams

class torch.ao.quantization.utils.determine_qparams(min_val, max_val, quant_min, quant_max, dtype, eps, has_customized_qrange, qscheme=torch.per_tensor_affine) [исходный код]

Вычисляет параметры квантования по тензорам минимальных и максимальных значений. Работает как для случая с поканальным квантованием, так и для случая с квантованием всего тензора

Параметры:

• min_val (Tensor) – Минимальные значения для каждого канала
• max_val (Tensor) – Максимальные значения для каждого канала

Возвращает:

Тензор масштабов формы (#channels,), zero_points: тензор нулевых точек формы (#channels,)

Тип возвращаемого значения:

scales