ConvertCustomConfig

class torch.ao.quantization.fx.custom_config.ConvertCustomConfig [исходный код]

Пользовательская конфигурация для convert_fx().

Пример использования:

convert_custom_config = ConvertCustomConfig()             .set_observed_to_quantized_mapping(ObservedCustomModule, QuantizedCustomModule)             .set_preserved_attributes(["attr1", "attr2"])

classmethod from_dict(convert_custom_config_dict) [исходный код]

Создать ConvertCustomConfig из словаря со следующими элементами:

“observed_to_quantized_custom_module_class”: вложенный словарь, сопоставляющий режим квантования с внутренним отображением классов наблюдаемых модулей в классы квантованных модулей, например:: { “static”: {FloatCustomModule: ObservedCustomModule}, “dynamic”: {FloatCustomModule: ObservedCustomModule}, “weight_only”: {FloatCustomModule: ObservedCustomModule} } “preserved_attributes”: список атрибутов, которые сохраняются, даже если они не используются в forward

Эта функция предназначена в первую очередь для обратной совместимости и может быть удалена в будущем.

Тип возвращаемого значения:

ConvertCustomConfig

set_observed_to_quantized_mapping(observed_class, quantized_class, quant_type=QuantType.STATIC) [исходный код]

Задать соответствие между классом пользовательского наблюдаемого модуля и классом пользовательского квантованного модуля.

Класс квантованного модуля должен иметь метод класса from_observed, преобразующий класс наблюдаемого модуля в класс квантованного модуля.

Тип возвращаемого значения:

ConvertCustomConfig

set_preserved_attributes(attributes) [исходный код]

Задать имена атрибутов, которые будут сохраняться в модуле графа, даже если они не используются в методе forward модели.

Тип возвращаемого значения:

ConvertCustomConfig

to_dict() [исходный код]

Преобразовать этот ConvertCustomConfig в словарь с элементами, описанными в from_dict().

Тип возвращаемого значения:

dict[str, Any]