Целое число, количество символов, поступающих в вложение.
embedding_size
Целое число, длина вектора вложения для каждого символа.
num_heads
Количество головок внимания, которые считывают из attention_states.
output_size
Размер векторов вывода; если None, использовать output_size.
output_projection
None или пара (W, B) весов и смещений проекции вывода; W имеет форму [размер_вывода x количество_символов], а B имеет форму [количество_символов]; если предоставлено и feed_previous=True, каждый предыдущий выходной сигнал сначала будет умножен на W и добавлен B.
feed_previous
Булево значение; если True, только первый из decoder_inputs будет использован (символ "GO"), и все остальные входные данные декодера будут сгенерированы: next = embedding_lookup(embedding, argmax(previous_output)). По сути, это реализует жадный декодер. Его также можно использовать во время обучения для эмуляции http://arxiv.org/abs/1506.03099. Если False, decoder_inputs используются как задано (стандартный случай декодера).
update_embedding_for_previous
Булево значение; если False и feed_previous=True, только вложение для первого символа decoder_inputs (символ "GO") будет обновлено обратным распространением. Вложения для символов, сгенерированных самим декодером, останутся неизменными. Этот параметр не имеет эффекта, если feed_previous=False.
dtype
Тип данных для использования для начальных состояний RNN (по умолчанию: tf.float32).
scope
Scope переменной для созданного подграфа; по умолчанию "embedding_attention_decoder".
initial_state_attention
Если False (по умолчанию), начальные значения внимания равны нулю. Если True, инициализируйте внимание из начального состояния и состояний внимания — полезно, когда мы хотим возобновить декодирование из ранее сохраненного состояния декодера и состояний внимания.
Возвращаемое значение
Кортеж вида (outputs, state), где: outputs: Список той же длины, что и decoder_inputs, содержащий 2D тензоры формы [размер_пакета x размер_вывода], содержащие сгенерированные выходы. state: Состояние каждой ячейки декодера в конечный момент времени. Это 2D тензор формы [размер_пакета x размер_состояния_ячейки].