torch.cuda.caching_allocator_alloc

torch.cuda.caching_allocator_alloc(size, device=None, stream=None) [source]

Выделяет память с помощью выделения памяти CUDA.

Память выделяется для указанного устройства и потока, эта функция предназначена для взаимодействия с другими фреймворками. Выделенная память освобождается с помощью caching_allocator_delete().

Параметры:

• size (int) – количество байтов для выделения.
• device (torch.device или int, необязательно) – выбранное устройство. Если это None используется по умолчанию устройство CUDA.
• stream (torch.cuda.Stream или int, необязательно) – выбранный поток. Если это None используется по умолчанию поток для выбранного устройства.

Примечание

См. Управление памятью для получения дополнительной информации об управлении памятью GPU.