torch.cuda.memory.set_per_process_memory_fraction

torch.cuda.memory.set_per_process_memory_fraction(fraction, device=None) [исходный код]

Задает долю памяти для процесса.

Эта доля используется для ограничения памяти, выделяемой кэширующим аллокатором на устройстве CUDA. Допустимое значение равно общему объему видимой памяти, умноженному на эту долю. Если процесс попытается выделить память сверх допустимого значения, аллокатор вызовет ошибку нехватки памяти.

Параметры:

• fraction (float) – Диапазон: 0~1. Допустимый объем памяти равен total_memory * fraction.
• device (torch.device или int, необязательный) – выбранное устройство. Если указано None, используется устройство CUDA по умолчанию.

Примечание

Как правило, общий объем доступной свободной памяти меньше общей емкости.