tf.contrib.rnn.AttentionCellWrapper
Основной обертка ячейки внимания.
Наследуется от: RNNCell
tf.contrib.rnn.AttentionCellWrapper(
cell, attn_length, attn_size=None, attn_vec_size=None, input_size=None,
state_is_tuple=True, reuse=None
)
Реализация на основе https://arxiv.org/abs/1601.06733
| Аргументы | |
|---|---|
cell | RNNCell, к которому добавляется внимание. |
attn_length | целое число, размер окна внимания. |
attn_size | целое число, размер вектора внимания. По умолчанию равно cell.output_size. |
attn_vec_size | целое число, количество вычисленных конволюционных признаков по состоянию внимания и размеру скрытого слоя, построенного из состояния базовой ячейки. По умолчанию равно attn_size. |
input_size | целое число, размер скрытого линейного слоя, построенного из входных данных и внимания. По умолчанию выводится из входного тензора. |
state_is_tuple | Если True, принимаемые и возвращаемые состояния являются n-кортежами, где n = len(cells). По умолчанию (False) состояния конкатенируются по оси столбцов. |
reuse | (необязательно) булевское значение Python, определяющее, следует ли повторно использовать переменные в существующем scope. Если не True, и в существующем scope уже есть заданные переменные, возникает ошибка. |
| Исключения | |
|---|---|
TypeError | если cell не является RNNCell. |
ValueError | если cell возвращает кортеж состояний, но флаг state_is_tuple имеет значение False или если attn_length равно нулю или меньше. |
| Атрибуты | |
|---|---|
graph | УСТАРЕВШАЯ ФУНКЦИЯ |
output_size | Целое число или TensorShape: размер выходных данных, производимых этой ячейкой. |
scope_name | |
state_size | размер(ы) состояния(й), используемого(ых) этой ячейкой. Он может быть представлен целым числом, TensorShape или кортежем целых чисел или TensorShape. |
Методы
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
zero_state
zero_state(
batch_size, dtype
)
Возвращает тензор(ы) состояния, заполненные нулями.
| Аргументы | |
|---|---|
batch_size | целое число, число с плавающей запятой или тензор, представляющий размер пакета. |
dtype | тип данных для использования в состоянии. |
| Возвращаемое значение | |
|---|---|
Если state_size является целым числом или TensorShape, то возвращаемое значение является N-D тензором формы [batch_size, state_size], заполненным нулями. Если |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/contrib/rnn/AttentionCellWrapper