torch.nn.attention

Создано: 24 января 2024 г. | Последнее обновление: 7 мая 2026 г.

Этот модуль содержит функции и классы, изменяющие поведение torch.nn.functional.scaled_dot_product_attention

Вспомогательные средства

`sdpa_kernel`	Менеджер контекста для выбора бэкенда, используемого для внимания с масштабированным скалярным произведением.
`SDPBackend`	Класс, подобный перечислению, содержащий различные бэкенды для внимания с масштабированным скалярным произведением.
`register_flash_attention_impl`	Зарегистрировать вызываемый объект, активирующий реализацию flash attention.
`activate_flash_attention_impl`	Активировать в диспетчере ранее зарегистрированную реализацию flash attention.
`list_flash_attention_impls`	Возвращает имена всех доступных реализаций flash attention.
`current_flash_attention_impl`	Возвращает имя активированной в данный момент реализации flash attention, если она есть.
`restore_flash_attention_impl`	Восстанавливает реализацию FA2 по умолчанию

`flex_attention`	Этот модуль реализует пользовательский API для flex_attention в PyTorch.
`bias`	Определяет подклассы смещения, совместимые с scaled_dot_product_attention
`experimental`
`varlen`	Реализация внимания переменной длины с использованием Flash Attention.

© 2026, PyTorch Contributors
PyTorch has a BSD-style license, as found in the LICENSE file.
https://docs.pytorch.org/docs/2.14/nn.attention.html