AffineQuantizedObserverBase

class torch.ao.quantization.observer.AffineQuantizedObserverBase(mapping_type, target_dtype, granularity, quant_min=None, quant_max=None, eps=None, scale_dtype=None, zero_point_dtype=None, preserve_zero=True, zero_point_domain=ZeroPointDomain.INT, **kwargs) [исходный код]

Модуль наблюдателя для аффинного квантования (pytorch/ao)

Параметры:

• block_size (гранулярность и) – Гранулярность квантования; необходимо указать как минимум один параметр. Если указаны оба, block_size имеет приоритет. В настоящее время поддерживаются следующие типы гранулярности: PerTensor и PerAxis
• args (прочие) – см. :class:torchao.dtypes.AffineQuantizedTensor

abstract calculate_qparams() [исходный код]

Вычисляет параметры квантования на основе статистики, собранной модулем наблюдателя, и возвращает кортеж из тензоров scale и zero_point

Тип возвращаемого значения:

tuple[Tensor, Tensor]

convert(model, observer_node) [исходный код]

Преобразует узел наблюдателя в графе в его квантованное представление

Параметры:

• model (GraphModule) – модуль графа, в котором выполняется преобразование узла наблюдателя
• observer_node (Node) – узел наблюдателя для преобразования

abstract forward(input) [исходный код]

Функция forward должна принимать входной тензор, обновлять внутреннюю статистику и возвращать исходный входной тензор

Тип возвращаемого значения:

Tensor

classmethod with_args(**kwargs) [исходный код]

Обёртка, позволяющая создавать фабрики классов.

Это может быть полезно, когда необходимо создать классы с одинаковыми аргументами конструктора, но разными экземплярами. Можно использовать совместно с _callable_args

Пример:

>>> Foo.with_args = classmethod(_with_args)
>>> foo_builder = Foo.with_args(a=3, b=4).with_args(answer=42)
>>> foo_instance1 = foo_builder()
>>> foo_instance2 = foo_builder()
>>> id(foo_instance1) == id(foo_instance2)
False