torch.cuda.memory.caching_allocator_alloc

torch.cuda.memory.caching_allocator_alloc(size, device=None, stream=None) [source]

Выполняет выделение памяти с использованием аллокатора памяти CUDA.

Память выделяется для заданных устройства и потока. Эта функция предназначена для взаимодействия с другими фреймворками. Выделенная память освобождается с помощью caching_allocator_delete().

Параметры:

• size (int) – количество выделяемых байт.
• device (torch.device or int, optional) – выбранное устройство. Если указано None, используется устройство CUDA по умолчанию.
• stream (torch.cuda.Stream or int, optional) – выбранный поток. Если указано None, используется поток по умолчанию для выбранного устройства.

Примечание

Дополнительные сведения об управлении памятью GPU см. в разделе Управление памятью.