torch.xpu.memory_usage

torch.xpu.memory_usage(device=None) [исходный код]

Возвращает использование пропускной способности памяти GPU в процентах.

Значение вычисляется делением изменения количества переданных байтов на промежуток времени между двумя считываниями счётчика пропускной способности, разделёнными интервалом выборки в 100 мс, а затем нормализуется по пиковой пропускной способности, указанной оборудованием.

Параметры:

device (torch.device, str или int, необязательно) – выбранное устройство. Используется текущее устройство, возвращаемое current_device(), если None (по умолчанию).

Тип возвращаемого значения:

float

Примечание

Вызов этой функции блокирует выполнение примерно на 100 мс из-за интервала выборки, необходимого для точного измерения пропускной способности.

Примечание

Для доступа к информации об использовании пропускной способности памяти GPU этот API может требовать повышенных привилегий (например, sudo).