torch.xpu.memory.memory_stats

torch.xpu.memory.memory_stats(device=None) [исходный код]

Возвращает словарь статистики распределителя памяти XPU для указанного устройства.

Возвращаемое значение этой функции — словарь статистических данных, каждое из которых является неотрицательным целым числом.

Основные статистические данные:

• "allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": объём выделенной памяти.
• "reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": объём зарезервированной памяти.
• "active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": объём активной памяти.
• "requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": объём памяти, запрошенный клиентским кодом; сравните это значение с allocated_bytes, чтобы проверить, не создаёт ли округление размера выделения слишком большие накладные расходы.

Для этих основных статистических данных значения представлены в следующих разрезах.

Тип пула:

• all: общая статистика по всем пулам памяти.
• large_pool: статистика для пула крупных выделений (для выделений размером >= 1MB).
• small_pool: статистика для пула небольших выделений (для выделений размером < 1MB).

Тип метрики:

• current: текущее значение этой метрики.
• peak: максимальное значение этой метрики.
• allocated: общее историческое увеличение значения этой метрики.
• freed: общее историческое уменьшение значения этой метрики.

Параметры:

device (torch.device или int или str, необязательный) – выбранное устройство. Возвращает статистику для текущего устройства, определяемого с помощью current_device(), если device равно None (по умолчанию).

Тип возвращаемого значения:

dict[str, Any]