torch.cuda.memory_allocated

torch.cuda.memory_allocated(device=None) [source]

Возвращает текущее занимаемое памятью GPU пространство в байтах для заданного устройства.

Параметры

device (torch.device или int, необязательно) – выбранное устройство. Возвращает статистику для текущего устройства, заданного current_device(), если device является None (по умолчанию).

Тип возвращаемого значения

int

Примечание

Это, вероятно, меньше, чем значение, показанное в nvidia-smi , так как некоторые неиспользуемые данные могут храниться кэширующим выделенным блоком и некоторые контексты нужно создать в GPU. См. Управление памятью для получения более подробной информации об управлении памятью GPU.