torch.xpu.memory.memory_allocated

torch.xpu.memory.memory_allocated(device=None) [исходный код]

Возвращает текущий объём памяти GPU, занимаемый тензорами на указанном устройстве, в байтах.

Параметры:

device (torch.device or int or str, необязательный) – выбранное устройство. Возвращает статистику для текущего устройства, определяемого функцией current_device(), если device равно None (по умолчанию).

Тип возвращаемого значения:

int

Примечание

Это значение, вероятно, меньше объёма, отображаемого в xpu-smi, поскольку часть неиспользуемой памяти может удерживаться кэширующим аллокатором, а для GPU необходимо создать некоторый контекст.