validate_qmin_qmax

class torch.ao.quantization.utils.validate_qmin_qmax(quant_min, quant_max) [исходный код]

Проверяет, что заданный пользователем диапазон квантования правильно инициализирован и находится в пределах, поддерживаемых типом данных наблюдателя.

Чтобы обеспечить квантование с меньшим числом битов по сравнению с существующими типами данных torch.qint8 и torch.quint8, пользователь может выбрать динамический диапазон квантования, передав кортеж начальных значений qmin и qmax. Один из вариантов использования — применение этих пользовательских значений qmin и qmax для вычисления статических оценок масштаба и нулевой точки при агрессивном фиктивном квантовании с меньшим числом битов. Эти оценки сравниваются с параметрами, полученными с помощью обратного распространения ошибки. Соответствующие публикации о масштабе и нулевой точке, получаемых с помощью обратного распространения ошибки:

Квантование с обучаемым размером шага: https://openreview.net/pdf?id=rkgO66VKDS Обученные пороги квантования: https://arxiv.org/pdf/1903.08066.pdf