torch.fx.passes.regional_inductor.regional_inductor

torch.fx.passes.regional_inductor.regional_inductor(gm, *example_args) [исходный код]

Извлекает помеченные области Inductor и компилирует их с помощью Inductor.

Параметры Inductor следует задавать с помощью API аннотаций:

with fx_traceback.annotate(
    {
        "compile_with_inductor": {
            "inductor_configs": {
                "max_autotune": True,
                "triton.cudagraphs": False,
            }
        }
    }
):
    ...

Предупреждение

Этот API является экспериментальным и НЕ обеспечивает обратную совместимость.

Тип возвращаемого значения:

GraphModule