torch.xpu

Создано: Feb 01, 2024 | Последнее обновление: Jun 18, 2026

Этот пакет добавляет поддержку бэкенда XPU, специально оптимизированного для графических процессоров Intel.

Этот пакет инициализируется отложенно, поэтому его всегда можно импортировать и использовать is_available(), чтобы определить, поддерживает ли ваша система XPU.

`StreamContext`	Менеджер контекста, выбирающий заданный поток.
`can_device_access_peer`	Проверить, может ли устройство обращаться к памяти другого устройства.
`clock_rate`	Вернуть тактовую частоту GPU в МГц.
`current_device`	Вернуть индекс текущего выбранного устройства.
`current_stream`	Вернуть текущий выбранный `Stream` для заданного устройства.
`device`	Менеджер контекста, изменяющий выбранное устройство.
`device_count`	Вернуть количество доступных устройств XPU.
`device_of`	Менеджер контекста, переключающий текущее устройство на устройство заданного объекта.
`device_memory_used`	Вернуть объем используемой глобальной памяти GPU (устройства) в байтах.
`get_arch_list`	Вернуть список архитектур XPU, для которых была скомпилирована эта библиотека.
`get_device_capability`	Получить возможности устройства XPU.
`get_device_name`	Получить название устройства.
`get_device_properties`	Получить свойства устройства.
`get_gencode_flags`	Вернуть флаги сборки XPU AOT (ahead-of-time), с которыми была скомпилирована эта библиотека.
`get_stream_from_external`	Вернуть `Stream` из внешней очереди SYCL.
`init`	Инициализировать состояние XPU в PyTorch.
`is_available`	Вернуть значение bool, указывающее, доступен ли сейчас XPU.
`is_bf16_supported`	Вернуть значение bool, указывающее, поддерживает ли текущее устройство XPU тип данных bfloat16.
`is_initialized`	Проверить, инициализировано ли состояние XPU в PyTorch.
`is_tf32_supported`	Вернуть значение bool, указывающее, поддерживает ли текущее устройство XPU тип данных tf32.
`memory_usage`	Вернуть использование пропускной способности памяти GPU в процентах.
`power_draw`	Вернуть энергопотребление видеокарты GPU в ваттах.
`set_device`	Выбрать текущее устройство.
`set_stream`	Задать текущий поток. Это API-обертка для установки потока.
`stream`	Обертка над менеджером контекста StreamContext, выбирающим заданный поток.
`synchronize`	Дождаться завершения всех ядер во всех потоках на устройстве XPU.
`temperature`	Вернуть температуру GPU в градусах Цельсия.
`utilization`	Вернуть загрузку вычислительных блоков GPU в процентах.

Генератор случайных чисел

`get_rng_state`	Вернуть состояние генератора случайных чисел указанного GPU в виде ByteTensor.
`get_rng_state_all`	Вернуть список ByteTensor, представляющих состояния генераторов случайных чисел всех устройств.
`initial_seed`	Вернуть текущее начальное значение генератора случайных чисел для текущего GPU.
`manual_seed`	Задать начальное значение для генерации случайных чисел на текущем GPU.
`manual_seed_all`	Задать начальное значение для генерации случайных чисел на всех GPU.
`seed`	Задать случайное начальное значение для генерации случайных чисел на текущем GPU.
`seed_all`	Задать случайное начальное значение для генерации случайных чисел на всех GPU.
`set_rng_state`	Задать состояние генератора случайных чисел указанного GPU.
`set_rng_state_all`	Задать состояние генератора случайных чисел всех устройств.

Потоки и события

`Event`	Обертка над событием XPU.
`Stream`	Обертка над потоком XPU.

Графы

`is_current_stream_capturing`	Вернуть True, если в текущем потоке XPU выполняется захват графа XPU, и False в противном случае.
`graph_pool_handle`	Вернуть непрозрачный токен, представляющий идентификатор пула памяти графа.
`XPUGraph`	Обертка над графом XPU.
`graph`	Менеджер контекста, захватывающий операции XPU в объект `torch.xpu.XPUGraph` для последующего воспроизведения.
`make_graphed_callables`	Принимает вызываемые объекты (функции или `nn.Module`) и возвращает их версии в виде графов.

Управление памятью

`XPUPluggableAllocator`	Аллокатор памяти XPU, динамически загружаемый из общей библиотеки.
`change_current_allocator`	Заменить текущий аллокатор памяти на указанный.
`empty_cache`	Освободить всю неиспользуемую кэшированную память, удерживаемую кэширующим аллокатором, чтобы ее можно было использовать в других приложениях XPU.
`get_per_process_memory_fraction`	Получить долю памяти, заданную для процесса на указанном устройстве XPU.
`list_gpu_processes`	Вернуть список выполняющихся процессов и используемой ими памяти GPU на указанном устройстве.
`max_memory_allocated`	Вернуть максимальный объем памяти GPU, занятый тензорами, в байтах для указанного устройства.
`max_memory_reserved`	Вернуть максимальный объем памяти GPU, управляемый кэширующим аллокатором, в байтах для указанного устройства.
`mem_get_info`	Вернуть общий объем свободной и полной памяти GPU для указанного устройства.
`memory_allocated`	Вернуть текущий объем памяти GPU, занятый тензорами, в байтах для указанного устройства.
`memory_reserved`	Вернуть текущий объем памяти GPU, управляемый кэширующим аллокатором, в байтах для указанного устройства.
`memory_snapshot`	Вернуть снимок состояния аллокатора памяти XPU на всех устройствах.
`memory_stats`	Вернуть словарь статистики аллокатора памяти XPU для указанного устройства.
`memory_stats_as_nested_dict`	Вернуть результат `memory_stats()` в виде вложенного словаря.
`reset_accumulated_memory_stats`	Сбросить «накопленную» (историческую) статистику, отслеживаемую аллокатором памяти XPU.
`reset_peak_memory_stats`	Сбросить статистику «пиковых» значений, отслеживаемую аллокатором памяти XPU.
`set_per_process_memory_fraction`	Задать долю памяти для отдельного процесса на устройстве XPU.
`MemPool`	MemPool представляет пул памяти в кэширующем аллокаторе.

class torch.xpu.use_mem_pool(pool, device=None) [исходный код]

Менеджер контекста, направляющий выделение памяти в заданный пул.

Параметры:

pool (torch.xpu.MemPool) – объект MemPool, который следует активировать, чтобы выделение памяти направлялось в этот пул.
device (torch.device or int, optional) – выбранное устройство. Если device — None (по умолчанию), используется MemPool on the current device, given by :func:`~torch.xpu.current_device.

Примечание

Этот менеджер контекста направляет в указанный пул выделение памяти только в текущем потоке. Если внутри менеджера контекста создается новый поток (например, при вызове backward), выделение памяти в этом потоке не будет направляться в указанный пул.

© 2026, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://docs.pytorch.org/docs/2.14/xpu.html