get_fqn_to_example_inputs

class torch.ao.quantization.utils.get_fqn_to_example_inputs(model, example_inputs) [исходный код]

Принимает модель и ее входные данные для примера и возвращает словарь, в котором полное имя подмодуля соответствует входным данным для примера этого подмодуля, например {"linear1": (tensor1,), "linear2": (tensor2,), "sub": (tensor3,), "sub.linear1": (tensor4,), ...}

Упрощает квантование подмодулей, поскольку для квантования в режиме графа FX теперь требуются входные данные для примера.

Также поддерживаются именованные аргументы со значениями по умолчанию: именованные аргументы преобразуются в позиционные, а пропущенные именованные аргументы заполняются значениями по умолчанию. Например, если у нас есть функция forward:

def forward(self, x, key1=3, key2=3): ...

и мы вызываем ее с self.submodule(x, key2=6), то получим example_inputs: (x, 3, 6)

Пользователь также может переопределить key1, передав позиционные аргументы: для self.submodule(x, 5, key2=6) получим: (x, 5, 6)

Переменное число позиционных аргументов и переменное число именованных аргументов в функции forward сейчас не поддерживаются, поэтому убедитесь, что ни один подмодуль их не использует.

Тип возвращаемого значения:

dict[str, tuple[Any, …]]