torch.mps.set_per_process_memory_fraction

torch.mps.set_per_process_memory_fraction(fraction) [исходный код]

Задаёт долю памяти, ограничивающую выделение памяти процессом на устройстве MPS. Допустимое значение равно произведению этой доли на рекомендуемый максимальный объём памяти устройства (полученный с помощью API Metal device.recommendedMaxWorkingSetSize). При попытке выделить в процессе объём памяти, превышающий допустимое значение, распределитель памяти выдаст ошибку нехватки памяти.

Параметры:

fraction (float) – Диапазон: 0~2. Допустимый объём памяти равен total_memory * fraction.

Примечание

Передача значения 0 для fraction означает отсутствие ограничений на выделение памяти (это может привести к сбою системы при нехватке памяти). Передача значения fraction больше 1.0 позволяет установить ограничение выше значения, возвращаемого device.recommendedMaxWorkingSetSize.