Поток

class torch.cuda.Stream(device=None, priority=0, **kwargs) [исходный код]

Обёртка для потока CUDA.

Поток CUDA — это линейная последовательность выполнения, относящаяся к определённому устройству и независимая от других потоков. Он поддерживает оператор with в качестве менеджера контекста, чтобы гарантировать выполнение операторов внутри блока with в соответствующем потоке. Подробности см. в разделе Семантика CUDA.

Параметры:

• device (torch.device или int, необязательно) – устройство, на котором будет выделен поток. Если device равно None (по умолчанию) или отрицательному целому числу, будет использоваться текущее устройство.
• priority (int, необязательно) – приоритет потока, который может быть положительным, равным 0 или отрицательным. Чем меньше число, тем выше приоритет. По умолчанию приоритет равен 0. Если значение выходит за допустимый диапазон приоритетов, оно автоматически преобразуется в ближайший допустимый приоритет (наименьший для больших положительных чисел или наибольший для больших отрицательных чисел).

query() [исходный код]

Проверяет, завершена ли вся отправленная работа.

Возвращает:

Логическое значение, указывающее, завершены ли все ядра в этом потоке.

Тип возвращаемого значения:

bool

record_event(event=None) [исходный код]

Записывает событие.

Параметры:

event (Event, torch.Event, необязательно) – событие для записи. Если оно не указано, будет создано новое.

Возвращает:

Записанное событие.

synchronize() [исходный код]

Ожидает завершения всех ядер в этом потоке.

Примечание

Это обёртка для cudaStreamSynchronize(): дополнительные сведения см. в документации по потокам CUDA.

wait_event(event) [исходный код]

Заставляет всю последующую работу, отправленную в поток, ожидать события.

Параметры:

event (Event, torch.Event) – событие, которого нужно дождаться.

Примечание

Это обёртка для cudaStreamWaitEvent(): дополнительные сведения см. в документации по потокам CUDA.

Эта функция возвращает управление, не дожидаясь event: затрагиваются только последующие операции.

wait_stream(stream) [исходный код]

Синхронизируется с другим потоком.

Вся последующая работа, отправленная в этот поток, будет ожидать завершения всех ядер, отправленных в указанный поток к моменту вызова.

Параметры:

stream (Stream, torch.Stream) – поток для синхронизации.

Примечание

Эта функция возвращает управление, не дожидаясь выполнения уже поставленных в очередь ядер в stream: затрагиваются только последующие операции.