tf.keras.layers.LSTMCell
| Просмотреть исходный код на GitHub |
Класс ячейки для слоя LSTM.
Наследуется от: Layer
tf.keras.layers.LSTMCell(
units, activation='tanh', recurrent_activation='hard_sigmoid', use_bias=True,
kernel_initializer='glorot_uniform', recurrent_initializer='orthogonal',
bias_initializer='zeros', unit_forget_bias=True, kernel_regularizer=None,
recurrent_regularizer=None, bias_regularizer=None, kernel_constraint=None,
recurrent_constraint=None, bias_constraint=None, dropout=0.0,
recurrent_dropout=0.0, implementation=1, **kwargs
)
| Аргументы | |
|---|---|
units | Положительное целое число, размерность выходного пространства. |
activation | Функция активации для использования. По умолчанию: гиперболический тангенс (tanh). Если вы передадите None, активация не применяется (т. е. линейная активация: a(x) = x). |
recurrent_activation | Функция активации для использования на рекуррентном шаге. По умолчанию: жёсткая сигмоида (hard_sigmoid). Если вы передадите None, активация не применяется (т. е. линейная активация: a(x) = x). |
use_bias | Булево значение, указывает, использует ли слой вектор смещения. |
kernel_initializer | Инициализатор для матрицы весов kernel, используемой для линейного преобразования входных данных. |
recurrent_initializer | Инициализатор для матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния. |
bias_initializer | Инициализатор для вектора смещения. |
unit_forget_bias | Булево значение. Если True, к смещению забывающего входа при инициализации добавляется 1. Установка в true также заставит bias_initializer="zeros". Это рекомендуется в Jozefowicz et al. |
kernel_regularizer | Функция регуляризации, применяемая к матрице весов kernel . |
recurrent_regularizer | Функция регуляризации, применяемая к матрице весов recurrent_kernel . |
bias_regularizer | Функция регуляризации, применяемая к вектору смещения. |
kernel_constraint | Функция ограничения, применяемая к матрице весов kernel . |
recurrent_constraint | Функция ограничения, применяемая к матрице весов recurrent_kernel . |
bias_constraint | Функция ограничения, применяемая к вектору смещения. |
dropout | Вещественное число от 0 до 1. Доля единиц для отбрасывания при линейном преобразовании входных данных. |
recurrent_dropout | Вещественное число от 0 до 1. Доля единиц для отбрасывания при линейном преобразовании рекуррентного состояния. |
implementation | Режим реализации, либо 1, либо 2. Режим 1 будет структурировать свои операции как большее количество меньших скалярных произведений и сложений, в то время как режим 2 объединит их в меньшее количество больших операций. Эти режимы будут иметь разные профили производительности на различных аппаратных платформах и для различных приложений. |
Аргументы вызова:
-
inputs: Двумерный тензор. -
states: Список тензоров состояния, соответствующих предыдущему шагу во времени. -
training: Булевое значение Python, указывающее, должен ли слой вести себя в режиме обучения или в режиме вывода. Релевантно только когда используетсяdropoutилиrecurrent_dropout.
Методы
get_dropout_mask_for_cell
get_dropout_mask_for_cell(
inputs, training, count=1
)
Получить маску дропаута для входных данных ячейки RNN.
Она будет создавать маску на основе контекста, если нет существующей кэшированной маски. Если генерируется новая маска, она обновит кэш в ячейке.
| Аргументы | |
|---|---|
inputs | тензор входных данных, форма которого будет использована для генерации маски дропаута. |
training | булевый тензор, находится ли он в режиме обучения, дропаут игнорируется в режиме без обучения. |
count | целое число, сколько масок дропаута будет сгенерировано. Это полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемое значение | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска на основе контекста. |
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
get_recurrent_dropout_mask_for_cell
get_recurrent_dropout_mask_for_cell(
inputs, training, count=1
)
Получить маску рекуррентного дропаута для ячейки RNN.
Она будет создавать маску на основе контекста, если нет существующей кэшированной маски. Если генерируется новая маска, она обновит кэш в ячейке.
| Аргументы | |
|---|---|
inputs | тензор входных данных, форма которого будет использована для генерации маски дропаута. |
training | булевый тензор, находится ли он в режиме обучения, дропаут игнорируется в режиме без обучения. |
count | целое число, сколько масок дропаута будет сгенерировано. Это полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемое значение | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска на основе контекста. |
reset_dropout_mask
reset_dropout_mask()
Сбросить кэшированные маски дропаута, если таковые имеются.
Это важно для слоя RNN вызвать это в его методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна быть кэширована между шагами во времени в пределах одной партии, но не должна кэшироваться между партиями. В противном случае это введёт необоснованный перекос в отношении определённого индекса данных в партии.
reset_recurrent_dropout_mask
reset_recurrent_dropout_mask()
Сбросить кэшированные маски рекуррентного дропаута, если таковые имеются.
Это важно для слоя RNN вызвать это в его методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна быть кэширована между шагами во времени в пределах одной партии, но не должна кэшироваться между партиями. В противном случае это введёт необоснованный перекос в отношении определённого индекса данных в партии.
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/keras/layers/LSTMCell