quantize

class torch.ao.quantization.quantize(model, run_fn, run_args, mapping=None, inplace=False) [исходный код]

Квантовать входную модель с плавающей запятой с помощью статического квантования после обучения.

Сначала модель будет подготовлена к калибровке, затем будет вызвана функция run_fn для выполнения этапа калибровки, после чего модель будет преобразована в квантованную модель.

Параметры:

• model – входная модель с плавающей запятой
• run_fn – функция калибровки подготовленной модели
• run_args – позиционные аргументы для run_fn
• inplace – выполнять преобразования модели на месте, изменяя исходный модуль
• mapping – соответствие между типами исходных модулей и их квантованными аналогами

Возвращает:

Квантованная модель.