Декодер Трансформера

class torch.nn.TransformerDecoder(decoder_layer, num_layers, norm=None) [source]

TransformerDecoder — это стопка N слоёв декодера

Параметры:

• decoder_layer – экземпляр класса TransformerDecoderLayer() (обязательно).
• num_layers – количество подслоёв декодера (обязательно).
• norm – компонент нормализации слоя (необязательно).

Примеры::

>>> decoder_layer = nn.TransformerDecoderLayer(d_model=512, nhead=8)
>>> transformer_decoder = nn.TransformerDecoder(decoder_layer, num_layers=6)
>>> memory = torch.rand(10, 32, 512)
>>> tgt = torch.rand(20, 32, 512)
>>> out = transformer_decoder(tgt, memory)

forward(tgt, memory, tgt_mask=None, memory_mask=None, tgt_key_padding_mask=None, memory_key_padding_mask=None) [source]

Пропускает входные данные (и маску) через слои декодера по очереди.

Параметры:

• tgt (Тензор) – последовательность для декодера (обязательно).
• memory (Тензор) – последовательность из последнего слоя кодировщика (обязательно).
• tgt_mask (Необязательно[Тензор]) – маска для последовательности tgt (необязательно).
• memory_mask (Необязательно[Тензор]) – маска для последовательности памяти (необязательно).
• tgt_key_padding_mask (Необязательно[Тензор]) – маска для ключей tgt по партиям (необязательно).
• memory_key_padding_mask (Необязательно[Тензор]) – маска для ключей памяти по партиям (необязательно).

Тип возвращаемого значения:

Тензор

Форма:

см. документацию в классе Трансформер.