torch.cuda.caching_allocator_alloc

torch.cuda.caching_allocator_alloc(size, device=None, stream=None) [source]

Выполняет выделение памяти с помощью выделения памяти CUDA.

Память выделяется для заданного устройства и потока, эта функция предназначена для взаимодействия с другими фреймворками. Выделенная память освобождается с помощью caching_allocator_delete().

Параметры

• size (int) – количество байтов для выделения.
• device (torch.device или int, необязательно) – выбранное устройство. Если это None используется значение по умолчанию для устройства CUDA.
• stream (torch.cuda.Stream или int, необязательно) – выбранный поток. Если это None используется значение по умолчанию для потока выбранного устройства.

Примечание

См. Управление памятью для получения дополнительной информации об управлении памятью GPU.