Spec-Zone.ru › TensorFlow 1.15

tf.contrib.legacy_seq2seq.embedding_attention_decoder

Декодер RNN с вложением, вниманием и опцией чистого декодирования.

tf.contrib.legacy_seq2seq.embedding_attention_decoder(
    decoder_inputs, initial_state, attention_states, cell, num_symbols,
    embedding_size, num_heads=1, output_size=None, output_projection=None,
    feed_previous=False, update_embedding_for_previous=True, dtype=None, scope=None,
    initial_state_attention=False
)
Аргументы
decoder_inputs Список 1D тензоров int32 размера пакета (входные данные декодера).
initial_state 2D тензор [размер_пакета x размер_состояния_ячейки].
attention_states 3D тензор [размер_пакета x длина_внимания x размер_внимания].
cell tf.compat.v1.nn.rnn_cell.RNNCell, определяющий функцию ячейки.
num_symbols Целое число, количество символов, поступающих в вложение.
embedding_size Целое число, длина вектора вложения для каждого символа.
num_heads Количество головок внимания, которые считывают из attention_states.
output_size Размер векторов вывода; если None, использовать output_size.
output_projection None или пара (W, B) весов и смещений проекции вывода; W имеет форму [размер_вывода x количество_символов], а B имеет форму [количество_символов]; если предоставлено и feed_previous=True, каждый предыдущий выходной сигнал сначала будет умножен на W и добавлен B.
feed_previous Булево значение; если True, только первый из decoder_inputs будет использован (символ "GO"), и все остальные входные данные декодера будут сгенерированы: next = embedding_lookup(embedding, argmax(previous_output)). По сути, это реализует жадный декодер. Его также можно использовать во время обучения для эмуляции http://arxiv.org/abs/1506.03099. Если False, decoder_inputs используются как задано (стандартный случай декодера).
update_embedding_for_previous Булево значение; если False и feed_previous=True, только вложение для первого символа decoder_inputs (символ "GO") будет обновлено обратным распространением. Вложения для символов, сгенерированных самим декодером, останутся неизменными. Этот параметр не имеет эффекта, если feed_previous=False.
dtype Тип данных для использования для начальных состояний RNN (по умолчанию: tf.float32).
scope Scope переменной для созданного подграфа; по умолчанию "embedding_attention_decoder".
initial_state_attention Если False (по умолчанию), начальные значения внимания равны нулю. Если True, инициализируйте внимание из начального состояния и состояний внимания — полезно, когда мы хотим возобновить декодирование из ранее сохраненного состояния декодера и состояний внимания.
Возвращаемое значение
Кортеж вида (outputs, state), где: outputs: Список той же длины, что и decoder_inputs, содержащий 2D тензоры формы [размер_пакета x размер_вывода], содержащие сгенерированные выходы. state: Состояние каждой ячейки декодера в конечный момент времени. Это 2D тензор формы [размер_пакета x размер_состояния_ячейки].
Исключения
ValueError При неправильной форме output_projection.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/contrib/legacy_seq2seq/embedding_attention_decoder

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API