torch.cuda.set_per_process_memory_fraction

torch.cuda.set_per_process_memory_fraction(fraction, device=None) [source]

Устанавливает долю памяти для процесса. Доля используется для ограничения кэширующего выделения памяти на устройстве CUDA. Разрешённое значение равно общей видимой памяти, умноженной на долю. Если попытка выделить больше, чем разрешённое значение в процессе, будет вызвано исключение недостатка памяти в выделенном блоке памяти.

Parameters

• fraction (float) – Диапазон: 0~1. Разрешённая память равна total_memory * fraction.
• device (torch.device или int, необязательно) – выбранное устройство. Если это None используется по умолчанию устройство CUDA.

Примечание

В целом, общее доступное свободное пространство памяти меньше, чем общий объём.