FakeQuantize

class torch.ao.quantization.fake_quantize.FakeQuantize(observer=<class 'torch.ao.quantization.observer.MovingAverageMinMaxObserver'>, quant_min=None, quant_max=None, is_dynamic=False, **observer_kwargs) [исходный код]

Имитация операций квантования и обратного квантования во время обучения.

Выходные данные этого модуля определяются следующим образом:

x_out = (
    clamp(round(x / scale + zero_point), quant_min, quant_max) - zero_point
) * scale

• is_dynamic указывает, является ли фиктивное квантование заполнителем для операторов динамического квантования (choose_qparams -> q -> dq) или операторов статического квантования (q -> dq)
• scale определяет коэффициент масштабирования, используемый для квантования.
• zero_point задает квантованное значение, которому соответствует 0 в формате с плавающей точкой
• fake_quant_enabled управляет применением фиктивного квантования к тензорам; при этом статистика по-прежнему может обновляться.
• observer_enabled управляет сбором статистики по тензорам

• dtype specifies the quantized dtype that is being emulated with fake-quantization,

  допустимые значения: torch.qint8 и torch.quint8.

Параметры:

• observer (module) – Модуль для сбора статистики по входным тензорам и вычисления масштаба и нулевой точки.
• observer_kwargs (optional) – Аргументы для модуля-наблюдателя

Переменные:

activation_post_process (Module) – Предоставленный пользователем модуль, который собирает статистику по входному тензору и предоставляет метод для вычисления масштаба и нулевой точки.