tf.keras.layers.LSTMCell

Класс ячейки для слоя LSTM.

Наследуется от: Layer, Module

tf.keras.layers.LSTMCell(
    units,
    activation='tanh',
    recurrent_activation='sigmoid',
    use_bias=True,
    kernel_initializer='glorot_uniform',
    recurrent_initializer='orthogonal',
    bias_initializer='zeros',
    unit_forget_bias=True,
    kernel_regularizer=None,
    recurrent_regularizer=None,
    bias_regularizer=None,
    kernel_constraint=None,
    recurrent_constraint=None,
    bias_constraint=None,
    dropout=0.0,
    recurrent_dropout=0.0,
    **kwargs
)

См. руководство по API Keras RNN для получения подробной информации об использовании API RNN.

Этот класс обрабатывает один шаг в последовательности входных данных во времени, в то время как tf.keras.layer.LSTM обрабатывает всю последовательность.

Например:

inputs = tf.random.normal([32, 10, 8])
rnn = tf.keras.layers.RNN(tf.keras.layers.LSTMCell(4))
output = rnn(inputs)
print(output.shape)
(32, 4)
rnn = tf.keras.layers.RNN(
   tf.keras.layers.LSTMCell(4),
   return_sequences=True,
   return_state=True)
whole_seq_output, final_memory_state, final_carry_state = rnn(inputs)
print(whole_seq_output.shape)
(32, 10, 4)
print(final_memory_state.shape)
(32, 4)
print(final_carry_state.shape)
(32, 4)

Аргументы вызова:

• inputs: 2D тензор с формой [batch, feature].
• states: Список из 2 тензоров, соответствующих единицам ячейки. Оба тензора имеют форму [batch, units], первый тензор — состояние памяти с предыдущего шага во времени, второй тензор — состояние переноса с предыдущего шага во времени. Для шага 0 на вход ячейке подаётся начальное состояние, заданное пользователем.
• training: Булево значение Python, указывающее, должна ли ячейка работать в режиме обучения или в режиме вывода. Актуально только при использовании dropout или recurrent_dropout.

Методы

get_dropout_mask_for_cell

Просмотреть исходный код

get_dropout_mask_for_cell(
    inputs, training, count=1
)

Получить маску дропаута для входных данных ячейки RNN.

Создаст маску на основе контекста, если нет кэшированной маски. Если генерируется новая маска, она будет обновлять кэш в ячейке.

get_initial_state

Просмотреть исходный код

get_initial_state(
    inputs=None, batch_size=None, dtype=None
)

get_recurrent_dropout_mask_for_cell

Просмотреть исходный код

get_recurrent_dropout_mask_for_cell(
    inputs, training, count=1
)

Получить маску рекуррентного дропаута для ячейки RNN.

Создаст маску на основе контекста, если нет кэшированной маски. Если генерируется новая маска, она будет обновлять кэш в ячейке.

reset_dropout_mask

Просмотреть исходный код

reset_dropout_mask()

Сбросить кэшированные маски дропаута, если они есть.

Это важно, чтобы слой RNN вызвал этот метод в своём методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна кэшироваться в пределах шага во времени в рамках одной партии, но не должна кэшироваться между партиями. В противном случае это приведёт к необоснованному смещению против определённого индекса данных в партии.

reset_recurrent_dropout_mask

Просмотреть исходный код

reset_recurrent_dropout_mask()

Сбросить кэшированные маски рекуррентного дропаута, если они есть.

Это важно, чтобы слой RNN вызвал этот метод в своём методе вызова(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна кэшироваться в пределах шага во времени в рамках одной партии, но не должна кэшироваться между партиями. В противном случае это приведёт к необоснованному смещению против определённого индекса данных в партии.