torch.cuda.set_per_process_memory_fraction

torch.cuda.set_per_process_memory_fraction(fraction, device=None) [source]

Устанавливает долю памяти для процесса. Доля используется для ограничения кэширующего выделения памяти на устройстве CUDA. Разрешенное значение равно общей видимой памяти, умноженной на долю. Если попытка выделить больше, чем разрешенное значение в процессе, в выделении памяти возникнет ошибка недостатка памяти.

Параметры:

• fraction (float) – Диапазон: 0~1. Разрешенная память равна total_memory * fraction.
• device (torch.device или int, необязательно) – выбранное устройство. Если это None используется по умолчанию устройство CUDA.

Примечание

В общем случае, общее доступное свободное место меньше общей емкости.