torch.quantized_batch_norm

torch.quantized_batch_norm(input, weight=None, bias=None, mean, var, eps, output_scale, output_zero_point) → Tensor

Применяет пакетную нормализацию к 4D (NCHW) квантованному тензору.

$$y = \frac{x - \mathrm{E}[x]}{\sqrt{\mathrm{Var}[x] + \epsilon}} * \gamma + \beta$$

Параметры:

• input (Tensor) – квантованный тензор
• weight (Tensor) – числовой тензор, соответствующий гамма, размер C
• bias (Tensor) – числовой тензор, соответствующий бета, размер C
• mean (Tensor) – числовое среднее значение в пакетной нормализации, размер C
• var (Tensor) – числовой тензор для дисперсии, размер C
• eps (float) – значение, добавляемое к знаменателю для повышения числовой устойчивости.
• output_scale (float) – масштаб квантованного выходного тензора
• output_zero_point (int) – нулевой пункт квантованного выходного тензора

Возвращает:

Квантованный тензор с применённой пакетной нормализацией.

Тип возвращаемого значения:

Tensor

Пример:

>>> qx = torch.quantize_per_tensor(torch.rand(2, 2, 2, 2), 1.5, 3, torch.quint8)
>>> torch.quantized_batch_norm(qx, torch.ones(2), torch.zeros(2), torch.rand(2), torch.rand(2), 0.00001, 0.2, 2)
tensor([[[[-0.2000, -0.2000],
      [ 1.6000, -0.2000]],

     [[-0.4000, -0.4000],
      [-0.4000,  0.6000]]],


    [[[-0.2000, -0.2000],
      [-0.2000, -0.2000]],

     [[ 0.6000, -0.4000],
      [ 0.6000, -0.4000]]]], size=(2, 2, 2, 2), dtype=torch.quint8,
   quantization_scheme=torch.per_tensor_affine, scale=0.2, zero_point=2)