torch.mtia

Создано: 11 июл. 2023 г. | Последнее обновление: 24 апр. 2026 г.

Бэкенд MTIA реализован вне дерева исходного кода; здесь определены только интерфейсы.

Этот пакет предоставляет интерфейс для доступа к бэкенду MTIA в Python

`StreamContext`	Контекстный менеджер, который выбирает заданный поток.
`current_device`	Возвращает индекс текущего выбранного устройства.
`current_stream`	Возвращает текущий выбранный `Stream` для заданного устройства.
`default_stream`	Возвращает поток `Stream` по умолчанию для заданного устройства.
`device_count`	Возвращает количество доступных устройств MTIA.
`init`
`is_available`	Возвращает true, если устройство MTIA доступно
`is_bf16_supported`	Возвращает логическое значение, указывающее, поддерживает ли текущее устройство MTIA тип данных bfloat16.
`is_initialized`	Возвращает информацию о том, была ли инициализирована подсистема MTIA в PyTorch.
`memory_stats`	Возвращает словарь статистики аллокатора памяти MTIA для заданного устройства.
`get_device_capability`	Возвращает возможности заданного устройства в виде кортежа (основная версия, дополнительная версия).
`get_device_properties`	Возвращает словарь свойств устройства MTIA
`empty_cache`	Очищает кэш устройства MTIA.
`record_memory_history`	Включает или отключает профилировщик памяти аллокатора MTIA
`snapshot`	Возвращает словарь с историей аллокатора памяти MTIA
`attach_out_of_memory_observer`	Подключает наблюдатель нехватки памяти к аллокатору памяти MTIA
`set_device`	Устанавливает текущее устройство.
`set_stream`	Устанавливает текущий поток. Это API-обёртка для установки потока.
`stream`	Обёртка над контекстным менеджером StreamContext, который выбирает заданный поток.
`synchronize`	Ожидает завершения всех задач во всех потоках на устройстве MTIA.
`device`	Контекстный менеджер, который изменяет выбранное устройство.
`set_rng_state`	Устанавливает состояние генератора случайных чисел указанного устройства MTIA.
`get_rng_state`	Возвращает состояние генератора случайных чисел указанного устройства MTIA в виде ByteTensor.
`set_rng_state_all`	Устанавливает состояние генераторов случайных чисел всех устройств.
`get_rng_state_all`	Возвращает список ByteTensor, представляющих состояния генераторов случайных чисел всех устройств.
`manual_seed`	Устанавливает начальное значение для генерации случайных чисел на текущем устройстве MTIA.
`manual_seed_all`	Устанавливает начальное значение для генерации случайных чисел на всех устройствах MTIA.
`seed`	Устанавливает случайное начальное значение для генерации случайных чисел на текущем устройстве MTIA.
`seed_all`	Устанавливает случайное начальное значение для генерации случайных чисел на всех устройствах MTIA.
`initial_seed`	Возвращает текущее начальное значение генератора случайных чисел текущего устройства MTIA.
`DeferredMtiaCallError`

Потоки и события

`Event`	Запрашивает и записывает состояние потока, чтобы выявлять зависимости между потоками или управлять ими, а также измерять время выполнения.
`Stream`	Очередь для асинхронного выполнения соответствующих задач по принципу «первым поступил — первым обслужен» (FIFO).

© 2026, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://docs.pytorch.org/docs/2.14/mtia.html