Stream

class torch.cuda.streams.Stream(device=None, priority=0, **kwargs) [исходный код]

Обёртка для потока CUDA.

Поток CUDA — это линейная последовательность операций, относящаяся к определённому устройству и независимая от других потоков. Он поддерживает оператор with в качестве менеджера контекста, обеспечивая выполнение операторов внутри блока with в соответствующем потоке. Подробнее см. в разделе Семантика CUDA.

Параметры:

• device (torch.device или int, необязательно) – устройство, на котором будет выделен поток. Если device равно None (значение по умолчанию) или отрицательному целому числу, будет использовано текущее устройство.
• priority (int, необязательно) – приоритет потока, который может быть положительным, равным 0 или отрицательным. Меньшее число означает более высокий приоритет. По умолчанию приоритет равен 0. Если значение выходит за допустимый диапазон приоритетов, оно автоматически будет приведено к ближайшему допустимому значению (к наименьшему для больших положительных чисел или к наибольшему для больших отрицательных чисел).

query() [исходный код]

Проверить, завершена ли вся отправленная работа.

Возвращает:

Логическое значение, указывающее, завершено ли выполнение всех ядер в этом потоке.

Тип возвращаемого значения:

bool

record_event(event=None) [исходный код]

Записать событие.

Параметры:

event (Event, torch.Event, необязательно) – событие для записи. Если оно не указано, будет создано новое.

Возвращает:

Записанное событие.

synchronize() [исходный код]

Дождаться завершения всех ядер в этом потоке.

Примечание

Это обёртка для cudaStreamSynchronize(): дополнительную информацию см. в документации по потокам CUDA.

wait_event(event) [исходный код]

Заставить всю последующую работу, отправленную в поток, ожидать события.

Параметры:

event (Event, torch.Event) – событие, которого нужно дождаться.

Примечание

Это обёртка для cudaStreamWaitEvent(): дополнительную информацию см. в документации по потокам CUDA.

Эта функция возвращает управление, не дожидаясь event: затрагиваются только последующие операции.

wait_stream(stream) [исходный код]

Синхронизироваться с другим потоком.

Вся последующая работа, отправленная в этот поток, будет ожидать завершения всех ядер, отправленных в указанный поток к моменту вызова.

Параметры:

stream (Stream, torch.Stream) – поток для синхронизации.

Примечание

Эта функция возвращает управление, не дожидаясь выполнения уже поставленных в очередь ядер в stream: затрагиваются только последующие операции.