SDPBackend

class torch.nn.attention.SDPBackend

Класс, похожий на перечисление, который содержит различные бэкенды для механизма внимания с масштабированным скалярным произведением.

… предупреждение:: Этот класс находится в стадии бета-тестирования и может измениться.

Этот класс бэкенда предназначен для использования с менеджером контекста sdpa_kernel. См. :func: torch.nn.attention.sdpa_kernel для получения дополнительной информации.

Элементы:

ERROR

MATH

FLASH_ATTENTION

EFFICIENT_ATTENTION

CUDNN_ATTENTION

OVERRIDEABLE

property name