QConfig

class torch.ao.quantization.qconfig.QConfig(activation, weight) [исходный код]

Описывает, как квантовать слой или часть сети, задавая настройки (классы наблюдателей) отдельно для активаций и весов.

Обратите внимание, что QConfig должен содержать классы наблюдателей (например, MinMaxObserver) или вызываемый объект, возвращающий экземпляры при вызове, а не сами экземпляры наблюдателей. Функция подготовки к квантованию создаст экземпляры наблюдателей несколько раз для каждого слоя.

Классы наблюдателей обычно имеют разумные аргументы по умолчанию, но их можно переопределить с помощью метода with_args (который работает как functools.partial):

my_qconfig = QConfig(
    activation=MinMaxObserver.with_args(dtype=torch.qint8),
    weight=default_observer.with_args(dtype=torch.qint8),
)