GreenContext

class torch.cuda.green_contexts.GreenContext(*, num_sms=None, workqueue_scope=None, workqueue_concurrency_limit=None, device_id=None) [исходный код]

Обёртка для зелёного контекста CUDA.

Предупреждение

Этот API находится в бета-версии и может измениться в будущих выпусках.

Работу CUDA следует размещать в потоках, созданных из зелёного контекста:

ctx = GreenContext(...)
stream = ctx.Stream()
with torch.cuda.stream(stream):
    # torch operations here are using resources from `ctx`
    pass

Потоки зелёного контекста — это пользовательские потоки CUDA. Синхронизация с другими потоками является ответственностью пользователя и должна выполняться с помощью событий CUDA, как и для любых других пользовательских потоков.

Stream() [исходный код]

Возвращает поток CUDA, связанный с этим зелёным контекстом.

Используйте возвращённый поток с torch.cuda.stream(), чтобы выполнять работу в зелёном контексте. Синхронизация с другими потоками не выполняется автоматически; используйте события CUDA, как и для любых других пользовательских потоков.

Тип возвращаемого значения:

Stream

static create(*, num_sms=None, workqueue_scope=None, workqueue_concurrency_limit=None, device_id=None) [исходный код]

Создаёт зелёный контекст CUDA.

Сохранён для совместимости, см. конструктор GreenContext.

Тип возвращаемого значения:

GreenContext

static max_workqueue_concurrency(device_id=None) [исходный код]

Возвращает максимальный предел параллелизма очереди работ для устройства.

Запрашивает у устройства количество параллельных нагрузок, упорядоченных по потокам, которое по умолчанию поддерживается ресурсами конфигурации очереди работ.

Параметры:

device_id (int, необязательно) – Индекс устройства для запроса. Если None, используется текущее устройство.

Тип возвращаемого значения:

int

pop_context() [исходный код]

Если зелёный контекст является текущим, извлекает его из стека контекстов и восстанавливает предыдущий контекст.

Устарело. Создавайте потоки с помощью Stream() и вместо этого используйте torch.cuda.stream().

set_context() [исходный код]

Делает зелёный контекст текущим.

Устарело. Создавайте потоки с помощью Stream() и вместо этого используйте torch.cuda.stream().