PrepareCustomConfig

class torch.ao.quantization.fx.custom_config.PrepareCustomConfig [исходный код]

Пользовательская конфигурация для prepare_fx() и prepare_qat_fx().

Пример использования:

prepare_custom_config = PrepareCustomConfig()             .set_standalone_module_name("module1", qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_standalone_module_class(MyStandaloneModule, qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_float_to_observed_mapping(FloatCustomModule, ObservedCustomModule)             .set_non_traceable_module_names(["module2", "module3"])             .set_non_traceable_module_classes([NonTraceableModule1, NonTraceableModule2])             .set_input_quantized_indexes([0])             .set_output_quantized_indexes([0])             .set_preserved_attributes(["attr1", "attr2"])

classmethod from_dict(prepare_custom_config_dict) [исходный код]

Создать PrepareCustomConfig из словаря со следующими элементами:

“standalone_module_name”: список кортежей (module_name, qconfig_mapping, example_inputs, child_prepare_custom_config, backend_config)

“standalone_module_class”: список кортежей (module_class, qconfig_mapping, example_inputs, child_prepare_custom_config, backend_config)

“float_to_observed_custom_module_class”: вложенный словарь, сопоставляющий режим квантования с внутренним сопоставлением классов модулей с плавающей точкой классам наблюдаемых модулей, например {“static”: {FloatCustomModule: ObservedCustomModule}}

“non_traceable_module_name”: список имен модулей, которые нельзя символически трассировать “non_traceable_module_class”: список классов модулей, которые нельзя символически трассировать “input_quantized_idxs”: список индексов входных данных графа, которые следует квантовать “output_quantized_idxs”: список индексов выходных данных графа, которые следует квантовать “preserved_attributes”: список атрибутов, которые сохраняются, даже если они не используются в forward

Эта функция предназначена главным образом для обратной совместимости и может быть удалена в будущем.

Тип возвращаемого значения:

PrepareCustomConfig

set_float_to_observed_mapping(float_class, observed_class, quant_type=QuantType.STATIC) [исходный код]

Задать сопоставление класса пользовательского модуля с плавающей точкой классу пользовательского наблюдаемого модуля.

Класс наблюдаемого модуля должен иметь метод класса from_float, преобразующий класс модуля с плавающей точкой в класс наблюдаемого модуля. Сейчас это поддерживается только для статического квантования.

Тип возвращаемого значения:

PrepareCustomConfig

set_input_quantized_indexes(indexes) [исходный код]

Задать индексы входных данных графа, которые следует квантовать. По умолчанию предполагается, что остальные входные данные имеют формат fp32.

Тип возвращаемого значения:

PrepareCustomConfig

set_non_traceable_module_classes(module_classes) [исходный код]

Задать модули, которые нельзя символически трассировать и которые идентифицируются по классу.

Тип возвращаемого значения:

PrepareCustomConfig

set_non_traceable_module_names(module_names) [исходный код]

Задать модули, которые нельзя символически трассировать и которые идентифицируются по имени.

Тип возвращаемого значения:

PrepareCustomConfig

set_output_quantized_indexes(indexes) [исходный код]

Задать индексы выходных данных графа, которые следует квантовать. По умолчанию предполагается, что остальные выходные данные имеют формат fp32.

Тип возвращаемого значения:

PrepareCustomConfig

set_preserved_attributes(attributes) [исходный код]

Задать имена атрибутов, которые сохраняются в модуле графа, даже если они не используются в методе модели forward.

Тип возвращаемого значения:

PrepareCustomConfig

set_standalone_module_class(module_class, qconfig_mapping, example_inputs, prepare_custom_config, backend_config) [исходный код]

Задать конфигурацию для запуска автономного модуля, идентифицируемого по module_class.

Если qconfig_mapping равен None, вместо него будет использоваться родительский qconfig_mapping. Если prepare_custom_config равен None, будет использоваться пустой PrepareCustomConfig. Если backend_config равен None, вместо него будет использоваться родительский backend_config.

Тип возвращаемого значения:

PrepareCustomConfig

set_standalone_module_name(module_name, qconfig_mapping, example_inputs, prepare_custom_config, backend_config) [исходный код]

Задать конфигурацию для запуска автономного модуля, идентифицируемого по module_name.

Если qconfig_mapping равен None, вместо него будет использоваться родительский qconfig_mapping. Если prepare_custom_config равен None, будет использоваться пустой PrepareCustomConfig. Если backend_config равен None, вместо него будет использоваться родительский backend_config.

Тип возвращаемого значения:

PrepareCustomConfig

to_dict() [исходный код]

Преобразовать этот PrepareCustomConfig в словарь с элементами, описанными в from_dict().

Тип возвращаемого значения:

dict[str, Any]