CUDAPluggableAllocator

class torch.cuda.CUDAPluggableAllocator(path_to_so_file, alloc_fn_name, free_fn_name) [source]

Блокировщик памяти CUDA, загруженный из файла so.

Блокировщики памяти компилируются в файлы .so и динамически загружаются с помощью ctypes. Чтобы изменить активный блокировщик, используйте функцию torch.memory.cuda.change_current_allocator().

Параметры

• path_to_so_file (str) – Путь к файлу .so, содержащему функции блокировщика.
• alloc_fn_name (str) – Название функции для выполнения выделения памяти в файле so. Подпись должна быть: void* alloc_fn_name(ssize_t size, int device, cudaStream_t stream);
• free_fn_name (str) – Название функции для выполнения освобождения памяти в файле so. Подпись должна быть: void free_fn_name(void* ptr, size_t size, cudaStream_t stream);

Предупреждение

В настоящее время поддерживается только в операционных системах Unix.

Примечание

См. Управление памятью для получения подробной информации о создании и использовании пользовательского блокировщика.