XPUGraph

class torch.xpu.XPUGraph(keep_graph=False) [исходный код]

Обёртка над графом XPU.

Параметры:

keep_graph (bool, необязательно) – Если keep_graph=False, исполняемый граф команд будет создан на GPU в конце capture_end, а базовый изменяемый граф команд будет уничтожен. Обратите внимание, что в этом случае исполняемый граф команд не будет создан в конце capture_end. Вместо этого он будет создан явным вызовом instantiate или автоматически при первом вызове replay, если ранее не был вызван instantiate. Рекомендуется вручную вызвать instantiate перед replay, чтобы избежать увеличения задержки при первом вызове replay.

Тип возвращаемого значения:

Self

capture_begin(pool=None) [исходный код]

Начать захват операций XPU в текущем потоке xpu.

Обычно не следует вызывать capture_begin самостоятельно. Используйте graph, которая вызывает capture_begin внутри себя.

Параметры:

pool (необязательно) – Токен (возвращаемый graph_pool_handle() или other_Graph_instance.pool()), указывающий, что этот граф может использовать память совместно с указанным пулом.

capture_end() [исходный код]

Завершить захват графа XPU в текущем потоке.

После capture_end для этого экземпляра можно вызвать replay.

Обычно не следует вызывать capture_end самостоятельно. Используйте graph, которая вызывает capture_end внутри себя.

debug_dump(debug_path) [исходный код]

Параметры:

debug_path (обязательно) – Путь, по которому следует сохранить граф.

Вызывает функцию отладки для сохранения графа, если отладка включена с помощью XPUGraph.enable_debug_mode()

enable_debug_mode() [исходный код]

Включить режим отладки для XPUGraph.debug_dump.

instantiate() [исходный код]

Создать граф XPU. Будет вызван методом capture_end, если keep_graph=False, или методом replay, если keep_graph=True и instantiate ещё не были вызваны явно. Не уничтожает изменяемый граф команд xpu, возвращённый методом raw_xpu_graph.

pool() [исходный код]

Возвращает непрозрачный токен, представляющий идентификатор пула памяти этого графа.

Этот идентификатор можно при необходимости передать методу capture_begin другого графа, указав, что другой граф может использовать тот же пул памяти.

Тип возвращаемого значения:

_POOL_HANDLE

raw_xpu_graph() [исходный код]

Возвращает базовый объект xpuGraph_t. Значение keep_graph должно быть равно True.

XPU не предоставляет API для работы с этим объектом.

Тип возвращаемого значения:

int

raw_xpu_graph_exec() [исходный код]

Возвращает базовый объект xpuGraphExec_t. Если keep_graph равно True, должен быть вызван instantiate; если keep_graph равно False, должен быть вызван capture_end. Если вызвать instantiate() после raw_xpu_graph_exec(), ранее возвращённый объект xpuGraphExec_t будет уничтожен. Вы обязаны не использовать этот объект после его уничтожения.

XPU не предоставляет API для работы с этим объектом.

Тип возвращаемого значения:

int

replay() [исходный код]

Повторно выполнить операции XPU, захваченные этим графом.

reset() [исходный код]

Удалить граф, хранящийся в данный момент в этом экземпляре.