torch.cuda.memory_allocated

torch.cuda.memory_allocated(device=None) [source]

Возвращает текущее занимаемое GPU памятью пространство тензоров в байтах для заданного устройства.

Параметры:

device (torch.device или int, необязательно) – выбранное устройство. Возвращает статистику для текущего устройства, заданного current_device(), если device имеет значение None (по умолчанию).

Тип возвращаемого значения:

int

Примечание

Вероятно, это значение меньше, чем показано в nvidia-smi , так как некоторые неиспользуемые данные могут храниться кеширующим выделением памяти, а некоторый контекст необходимо создать на GPU. Дополнительные сведения об управлении памятью GPU см. в Управлении памятью.