torch.mps.set_per_process_memory_fraction

torch.mps.set_per_process_memory_fraction(fraction) [source]

Устанавливает долю памяти для ограничения выделения памяти процессом на устройстве MPS. Разрешенное значение равно доле, умноженной на рекомендуемый максимальный объем памяти устройства (полученный из API Metal device.recommendedMaxWorkingSetSize). Если попытка выделить больше, чем разрешенное значение в процессе, это вызовет ошибку недостатка памяти в выделенном блоке.

Параметры

fraction (float) – Диапазон: 0~2. Разрешенная память равна total_memory * fraction.

Примечание

Передача 0 для fraction означает неограниченные выделения (может привести к системной ошибке при недостатке памяти). Передача fraction больше 1.0 позволяет ограничения, превышающие значение, возвращаемое устройством device.recommendedMaxWorkingSetSize.