Spec-Zone.ru › TensorFlow 2.3

tf.keras.layers.LSTMCell

Просмотреть исходный код на GitHub

Класс ячейки для слоя LSTM.

Наследуется от: LSTMCell

tf.keras.layers.LSTMCell(
    units, activation='tanh', recurrent_activation='sigmoid', use_bias=True,
    kernel_initializer='glorot_uniform', recurrent_initializer='orthogonal',
    bias_initializer='zeros', unit_forget_bias=True, kernel_regularizer=None,
    recurrent_regularizer=None, bias_regularizer=None, kernel_constraint=None,
    recurrent_constraint=None, bias_constraint=None, dropout=0.0,
    recurrent_dropout=0.0, implementation=2, **kwargs
)

См. руководство по API Keras RNN для получения подробной информации об использовании API RNN.

Этот класс обрабатывает один шаг в пределах всего временного ряда входных данных, тогда как tf.keras.layer.LSTM обрабатывает весь ряд.

Например:

inputs = tf.random.normal([32, 10, 8])
rnn = tf.keras.layers.RNN(tf.keras.layers.LSTMCell(4))
output = rnn(inputs)
print(output.shape)
(32, 4)
rnn = tf.keras.layers.RNN(
   tf.keras.layers.LSTMCell(4),
   return_sequences=True,
   return_state=True)
whole_seq_output, final_memory_state, final_carry_state = rnn(inputs)
print(whole_seq_output.shape)
(32, 10, 4)
print(final_memory_state.shape)
(32, 4)
print(final_carry_state.shape)
(32, 4)
Аргументы
units Положительное целое число, размерность выходного пространства.
activation Функция активации для использования. По умолчанию: гиперболический тангенс (tanh). Если вы передаете None, активация не применяется (т.е. используется линейная активация: a(x) = x).
recurrent_activation Функция активации для использования на рекуррентном шаге. По умолчанию: сигмоида (sigmoid). Если вы передаете None, активация не применяется (т.е. используется линейная активация: a(x) = x).
use_bias Булево значение (по умолчанию True), использует ли слой вектор смещения.
kernel_initializer Инициализатор матрицы весов kernel, используемой для линейного преобразования входов. По умолчанию: glorot_uniform.
recurrent_initializer Инициализатор матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния. По умолчанию: orthogonal.
bias_initializer Инициализатор вектора смещения. По умолчанию: zeros.
unit_forget_bias Булево значение (по умолчанию True). Если True, добавляет 1 к смещению забывающего ячейки при инициализации. Установка в значение true также принудительно устанавливает bias_initializer="zeros". Это рекомендуется в Jozefowicz et al.
kernel_regularizer Функция регуляризации, применяемая к матрице весов kernel. По умолчанию: None.
recurrent_regularizer Функция регуляризации, применяемая к матрице весов recurrent_kernel. По умолчанию: None.
bias_regularizer Функция регуляризации, применяемая к вектору смещения. По умолчанию: None.
kernel_constraint Функция ограничения, применяемая к матрице весов kernel. По умолчанию: None.
recurrent_constraint Функция ограничения, применяемая к матрице весов recurrent_kernel. По умолчанию: None.
bias_constraint Функция ограничения, применяемая к вектору смещения. По умолчанию: None.
dropout Вещественное число от 0 до 1. Доля единиц, которые нужно отбросить для линейного преобразования входов. По умолчанию: 0.
recurrent_dropout Вещественное число от 0 до 1. Доля единиц, которые нужно отбросить для линейного преобразования рекуррентного состояния. По умолчанию: 0.
implementation Режим реализации, 1 или 2. Режим 1 структурирует свои операции как большее количество меньших скалярных произведений и сложений, а режим 2 (по умолчанию) группирует их в меньшее количество больших операций. Эти режимы будут иметь разные профили производительности на разной аппаратуре и для разных приложений. По умолчанию: 2.

Аргументы вызова:

  • inputs: Матрица тензор 2D, с формой [batch, feature].
  • states: Список из 2 тензоров, соответствующих ячейкам ячейки. Оба имеют форму [batch, units], первый тензор — состояние памяти из предыдущего шага времени, второй тензор — состояние переноса из предыдущего шага времени. Для шага времени 0 на вход ячейке будут поданы начальные состояния, заданные пользователем.
  • training: Булево значение Python, указывающее, должен ли слой вести себя в режиме обучения или в режиме вывода. Актуально только при использовании dropout или recurrent_dropout.

Методы

get_dropout_mask_for_cell

Просмотреть исходный код

get_dropout_mask_for_cell(
    inputs, training, count=1
)

Получение маски дропаута для входных данных ячейки RNN.

Создаст маску на основе контекста, если нет кэшированной маски. Если генерируется новая маска, она обновит кэш в ячейке.

Аргументы
inputs Входной тензор, форма которого будет использоваться для генерации маски дропаута.
training Булевый тензор, находится ли он в режиме обучения, дропаут игнорируется в нетренировочном режиме.
count Целое число, сколько масок дропаута будет сгенерировано. Полезно для ячеек, у которых внутренние веса объединены вместе.
Возвращаемое значение
Список тензоров маски, сгенерированной или кэшированной маски на основе контекста.

get_initial_state

Просмотреть исходный код

get_initial_state(
    inputs=None, batch_size=None, dtype=None
)

get_recurrent_dropout_mask_for_cell

Просмотреть исходный код

get_recurrent_dropout_mask_for_cell(
    inputs, training, count=1
)

Получение маски рекуррентного дропаута для ячейки RNN.

Создаст маску на основе контекста, если нет кэшированной маски. Если генерируется новая маска, она обновит кэш в ячейке.

Аргументы
inputs Входной тензор, форма которого будет использоваться для генерации маски дропаута.
training Булевый тензор, находится ли он в режиме обучения, дропаут игнорируется в нетренировочном режиме.
count Целое число, сколько масок дропаута будет сгенерировано. Полезно для ячеек, у которых внутренние веса объединены вместе.
Возвращаемое значение
Список тензоров маски, сгенерированной или кэшированной маски на основе контекста.

reset_dropout_mask

Просмотреть исходный код

reset_dropout_mask()

Сброс кэшированных масок дропаута, если они есть.

Это важно для слоя RNN, чтобы вызвать это в методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна быть кэширована для шага времени в пределах одной партии, но не должна кэшироваться между партиями. В противном случае это введёт необоснованный уклон в отношении определённого индекса данных внутри партии.

reset_recurrent_dropout_mask

Просмотреть исходный код

reset_recurrent_dropout_mask()

Сброс кэшированных масок рекуррентного дропаута, если они есть.

Это важно для слоя RNN, чтобы вызвать это в методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна быть кэширована для шага времени в пределах одной партии, но не должна кэшироваться между партиями. В противном случае это введёт необоснованный уклон в отношении определённого индекса данных внутри партии.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/keras/layers/LSTMCell

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API