torch.fx.experimental.optimization.optimize_for_inference

torch.fx.experimental.optimization.optimize_for_inference(model, pass_config=None, tracer=<class 'torch.fx._symbolic_trace.Tracer'>) [исходный код]

Выполняет набор проходов оптимизации модели для инференса. В частности, выполняются следующие проходы: 1. Слияние Conv/BN 2. Удаление Dropout 3. Оптимизации раскладки MKL

Третья оптимизация принимает функцию use_mkl_heuristic, которая используется для определения того, следует ли явно выполнять подграф в раскладке MKL.

Примечание: поскольку FX в настоящее время не обрабатывает алиасинг, этот проход предполагает отсутствие алиасов. Если это не так, используйте его на свой страх и риск.

Тип возвращаемого значения:

Module