MemPool

class torch.cuda.memory.MemPool(*args, **kwargs) [исходный код]

MemPool представляет собой пул памяти в аллокаторе с кэшированием. В настоящее время это просто идентификатор объекта пула, поддерживаемого в CUDACachingAllocator.

Параметры:

• allocator (torch._C._cuda_CUDAAllocator, optional) – объект torch._C._cuda_CUDAAllocator, который можно использовать для определения способа выделения памяти в пуле. Если allocator имеет значение None (по умолчанию), выделение памяти выполняется в соответствии с текущей конфигурацией CUDACachingAllocator по умолчанию.
• use_on_oom (bool) – логическое значение, указывающее, можно ли использовать этот пул в крайнем случае, если выделение памяти вне пула завершается неудачей из-за нехватки памяти (Out Of Memory). По умолчанию равно False.
• no_split (bool) – логическое значение, указывающее, следует ли запретить разделение сегмента в этом пуле. По умолчанию равно False.

property id: tuple[int, int]

Возвращает идентификатор этого пула в виде кортежа из двух целых чисел.

snapshot(include_traces=True) [исходный код]

Возвращает снимок состояния пула аллокатора памяти CUDA на всех устройствах.

Для интерпретации результата этой функции необходимо знать внутреннее устройство аллокатора памяти.

Параметры:

include_traces – включать ли записи трассировки в снимок. Если True (по умолчанию), включаются все записи трассировки. Если False, записи трассировки не включаются (облегчённый/быстрый снимок).

Примечание

Подробнее об управлении памятью графического процессора см. в разделе Управление памятью.

use_count() [исходный код]

Возвращает счётчик ссылок на этот пул.

Тип возвращаемого значения:

int