tf.keras.layers.SimpleRNNCell
| Просмотреть исходный код на GitHub |
Класс ячейки для SimpleRNN.
Наследуется от: Layer
tf.keras.layers.SimpleRNNCell(
units, activation='tanh', use_bias=True, kernel_initializer='glorot_uniform',
recurrent_initializer='orthogonal', bias_initializer='zeros',
kernel_regularizer=None, recurrent_regularizer=None, bias_regularizer=None,
kernel_constraint=None, recurrent_constraint=None, bias_constraint=None,
dropout=0.0, recurrent_dropout=0.0, **kwargs
)
См. Руководство по API Keras RNN для получения подробной информации об использовании API RNN.
Этот класс обрабатывает один шаг в пределах всего входного временного ряда, в то время как tf.keras.layer.SimpleRNN обрабатывает весь ряд.
| Аргументы | |
|---|---|
units | Положительное целое число, размерность выходного пространства. |
activation | Функция активации для использования. По умолчанию: гиперболический тангенс (tanh). Если вы передаете None, активация не применяется (т. е. линейная активация: a(x) = x). |
use_bias | Булево значение, (по умолчанию True), использует ли слой вектор смещения. |
kernel_initializer | Инициализатор матрицы весов kernel, используемой для линейного преобразования входных данных. По умолчанию: glorot_uniform. |
recurrent_initializer | Инициализатор матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния. По умолчанию: orthogonal. |
bias_initializer | Инициализатор вектора смещения. По умолчанию: zeros. |
kernel_regularizer | Функция регуляризации, применяемая к матрице весов kernel. По умолчанию: None. |
recurrent_regularizer | Функция регуляризации, применяемая к матрице весов recurrent_kernel. По умолчанию: None. |
bias_regularizer | Функция регуляризации, применяемая к вектору смещения. По умолчанию: None. |
kernel_constraint | Функция ограничения, применяемая к матрице весов kernel. По умолчанию: None. |
recurrent_constraint | Функция ограничения, применяемая к матрице весов recurrent_kernel. По умолчанию: None. |
bias_constraint | Функция ограничения, применяемая к вектору смещения. По умолчанию: None. |
dropout | Вещественное число от 0 до 1. Доля единиц, которые необходимо отбросить для линейного преобразования входных данных. По умолчанию: 0. |
recurrent_dropout | Вещественное число от 0 до 1. Доля единиц, которые необходимо отбросить для линейного преобразования рекуррентного состояния. По умолчанию: 0. |
Аргументы вызова:
-
inputs: Двумерный тензор с формой[batch, feature]. -
states: Двумерный тензор с формой[batch, units], который является состоянием с предыдущего временного шага. Для временного шага 0 на вход ячейки будет подано начальное состояние, предоставленное пользователем. -
training: Булево значение Python, указывающее, должен ли слой вести себя в режиме обучения или в режиме вывода. Актуально только при использованииdropoutилиrecurrent_dropout.
Примеры:
inputs = np.random.random([32, 10, 8]).astype(np.float32)
rnn = tf.keras.layers.RNN(tf.keras.layers.SimpleRNNCell(4))
output = rnn(inputs) # The output has shape `[32, 4]`.
rnn = tf.keras.layers.RNN(
tf.keras.layers.SimpleRNNCell(4),
return_sequences=True,
return_state=True)
# whole_sequence_output has shape `[32, 10, 4]`.
# final_state has shape `[32, 4]`.
whole_sequence_output, final_state = rnn(inputs)
Методы
get_dropout_mask_for_cell
get_dropout_mask_for_cell(
inputs, training, count=1
)
Получение маски дропаута для входных данных ячейки RNN.
Если нет кэшированной маски, будет создана маска на основе контекста. Если создается новая маска, она будет обновлять кэш в ячейке.
| Аргументы | |
|---|---|
inputs | Входной тензор, форма которого будет использоваться для генерации маски дропаута. |
training | Булевский тензор, указывает, находится ли он в режиме обучения, дропаут игнорируется в режиме не-обучения. |
count | Целое число, сколько масок дропаута будет сгенерировано. Это полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемые значения | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска в зависимости от контекста. |
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
get_recurrent_dropout_mask_for_cell
get_recurrent_dropout_mask_for_cell(
inputs, training, count=1
)
Получение маски рекуррентного дропаута для ячейки RNN.
Если нет кэшированной маски, будет создана маска на основе контекста. Если создается новая маска, она будет обновлять кэш в ячейке.
| Аргументы | |
|---|---|
inputs | Входной тензор, форма которого будет использоваться для генерации маски дропаута. |
training | Булевский тензор, указывает, находится ли он в режиме обучения, дропаут игнорируется в режиме не-обучения. |
count | Целое число, сколько масок дропаута будет сгенерировано. Это полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемые значения | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска в зависимости от контекста. |
reset_dropout_mask
reset_dropout_mask()
Сброс кэшированных масок дропаута, если они есть.
Важно, чтобы слой RNN вызывал это в своем методе call(), чтобы кэшированная маска очищалась перед вызовом cell.call(). Маска должна кэшироваться на временном шаге в рамках одной и той же партии, но не должна кэшироваться между партиями. В противном случае это внесет необоснованный смещение против определенного индекса данных в рамках партии.
reset_recurrent_dropout_mask
reset_recurrent_dropout_mask()
Сброс кэшированных масок рекуррентного дропаута, если они есть.
Важно, чтобы слой RNN вызывал это в своем методе call(), чтобы кэшированная маска очищалась перед вызовом cell.call(). Маска должна кэшироваться на временном шаге в рамках одной и той же партии, но не должна кэшироваться между партиями. В противном случае это внесет необоснованный смещение против определенного индекса данных в рамках партии.
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/keras/layers/SimpleRNNCell