CUDAGraph

class torch.cuda.CUDAGraph [source]

Обёртка вокруг графика CUDA.

Предупреждение

Этот API находится в стадии бета-тестирования и может быть изменён в будущих выпусках.

capture_begin(pool=None, capture_error_mode='global') [source]

Начинает захват работы CUDA в текущем потоке.

Обычно вы не должны вызывать capture_begin самостоятельно. Используйте graph или make_graphed_callables(), которые вызывают capture_begin внутри.

Параметры

• pool (необязательно) – Токен (возвращённый graph_pool_handle() или other_Graph_instance.pool()), который указывает, что этот график может использовать память из указанного пула. См. Управление памятью графиков.
• capture_error_mode (str, необязательно) – указывает cudaStreamCaptureMode для потока захвата графика. Может быть «global», «thread_local» или «relaxed». Во время захвата CUDA графика некоторые действия, такие как cudaMalloc, могут быть небезопасными. «global» будет генерировать ошибку при действиях в других потоках, «thread_local» будет генерировать ошибку только для действий в текущем потоке, а «relaxed» не будет генерировать ошибку для этих действий. НЕ изменяйте этот параметр, если вы не знакомы с cudaStreamCaptureMode

capture_end() [source]

Завершает захват графика CUDA в текущем потоке. После capture_end, replay может быть вызвано для этой экземпляра.

Обычно вы не должны вызывать capture_end самостоятельно. Используйте graph или make_graphed_callables(), которые вызывают capture_end внутри.

debug_dump(debug_path) [source]

Параметры

debug_path (обязательно) – Путь для сохранения графика.

Вызывает функцию отладки для сохранения графика, если отладка включена через CUDAGraph.enable_debug_mode()

enable_debug_mode() [source]

Включает режим отладки для CUDAGraph.debug_dump.

pool() [source]

Возвращает неявный токен, представляющий идентификатор пула памяти этого графика. Этот идентификатор может быть необязательно передан другому графику в capture_begin, что указывает, что другой график может использовать тот же пул памяти.

replay() [source]

Выполняет работу CUDA, захваченную этим графиком.

reset() [source]

Удаляет график, хранящийся в этой экземпляре.