torch.compiler.keep_tensor_guards_unsafe

torch.compiler.keep_tensor_guards_unsafe(guard_entries, keep_parameters=False) [исходный код]

Функция общего назначения для сохранения проверок тензоров для всех тензоров. По умолчанию использовать её небезопасно. Однако, если вы не ожидаете изменений в коде модели, можно просто сохранить проверки тензоров.

>> opt_mod = torch.compile( >> mod, >> options={“guard_filter_fn”: torch.compiler.keep_tensor_guards}, >> )