CUDAGraph
-
class torch.cuda.CUDAGraph[source] -
Обёртка вокруг графика CUDA.
Предупреждение
Этот API находится в бета-версии и может быть изменён в будущих выпусках.
-
capture_begin(pool=None)[source] -
Начинает захват работы CUDA в текущем потоке.
Обычно вы не должны вызывать
capture_beginсамостоятельно. Используйтеgraphилиmake_graphed_callables(), которые вызываютcapture_beginвнутри.- Параметры:
-
pool (необязательно) – Токен (возвращённый
graph_pool_handle()илиother_Graph_instance.pool()), который указывает, что этот график может использовать память указанного пула. См. Управление памятью графика.
-
capture_end()[source] -
Завершает захват графика CUDA в текущем потоке. После
capture_end,replayможет быть вызван для этого экземпляра.Обычно вы не должны вызывать
capture_endсамостоятельно. Используйтеgraphилиmake_graphed_callables(), которые вызываютcapture_endвнутри.
-
pool()[source] -
Возвращает непрозрачный токен, представляющий идентификатор пула памяти этого графика. Этот идентификатор может быть необязательно передан в
capture_beginдругого графика, что указывает на возможность совместного использования того же пула памяти.
-
replay()[source] -
Переигрывает работу CUDA, захваченную этим графиком.
-
reset()[source] -
Удаляет график, хранящийся в данном экземпляре.
-
© 2024, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://pytorch.org/docs/1.13/generated/torch.cuda.CUDAGraph.html