tf.keras.layers.GRUCell
| Просмотреть исходный код на GitHub |
Класс ячейки для слоя GRU.
Наследуется от: GRUCell
tf.keras.layers.GRUCell(
units, activation='tanh', recurrent_activation='sigmoid', use_bias=True,
kernel_initializer='glorot_uniform', recurrent_initializer='orthogonal',
bias_initializer='zeros', kernel_regularizer=None, recurrent_regularizer=None,
bias_regularizer=None, kernel_constraint=None, recurrent_constraint=None,
bias_constraint=None, dropout=0.0, recurrent_dropout=0.0, implementation=2,
reset_after=True, **kwargs
)
См. руководство Keras RNN API для получения подробной информации о использовании API RNN.
Этот класс обрабатывает один шаг внутри всего входного временного ряда, тогда как tf.keras.layer.GRU обрабатывает весь ряд.
Например:
inputs = tf.random.normal([32, 10, 8]) rnn = tf.keras.layers.RNN(tf.keras.layers.GRUCell(4)) output = rnn(inputs) print(output.shape) (32, 4) rnn = tf.keras.layers.RNN( tf.keras.layers.GRUCell(4), return_sequences=True, return_state=True) whole_sequence_output, final_state = rnn(inputs) print(whole_sequence_output.shape) (32, 10, 4) print(final_state.shape) (32, 4)
| Аргументы | |
|---|---|
units | Положительное целое число, размерность выходного пространства. |
activation | Функция активации для использования. По умолчанию: гиперболический тангенс (tanh). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x). |
recurrent_activation | Функция активации для использования на рекуррентном шаге. По умолчанию: сигмоида (sigmoid). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x). |
use_bias | Булево значение (по умолчанию True), использует ли слой вектор смещения. |
kernel_initializer | Инициализатор матрицы весов kernel, используемой для линейного преобразования входных данных. По умолчанию: glorot_uniform. |
recurrent_initializer | Инициализатор матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния. По умолчанию: orthogonal. |
bias_initializer | Инициализатор вектора смещения. По умолчанию: zeros. |
kernel_regularizer | Функция регуляризации, применяемая к матрице весов kernel. По умолчанию: None. |
recurrent_regularizer | Функция регуляризации, применяемая к матрице весов recurrent_kernel. По умолчанию: None. |
bias_regularizer | Функция регуляризации, применяемая к вектору смещения. По умолчанию: None. |
kernel_constraint | Функция ограничения, применяемая к матрице весов kernel. По умолчанию: None. |
recurrent_constraint | Функция ограничения, применяемая к матрице весов recurrent_kernel. По умолчанию: None. |
bias_constraint | Функция ограничения, применяемая к вектору смещения. По умолчанию: None. |
dropout | Вещественное число от 0 до 1. Доля единиц для отбрасывания при линейном преобразовании входных данных. По умолчанию: 0. |
recurrent_dropout | Вещественное число от 0 до 1. Доля единиц для отбрасывания при линейном преобразовании рекуррентного состояния. По умолчанию: 0. |
implementation | Режим реализации, либо 1, либо 2. Режим 1 структурирует свои операции как большее число меньших скалярных произведений и сложений, тогда как режим 2 (по умолчанию) группирует их в меньшее число больших операций. Эти режимы будут иметь разные профили производительности на различных аппаратных средствах и для разных приложений. По умолчанию: 2. |
reset_after | Конвенция GRU (применять ли шлюз сброса после или до матричного умножения). False = "перед", True = "после" (по умолчанию и совместимо с CuDNN). |
Аргументы вызова:
-
inputs: Двухмерный тензор с формой[batch, feature]. -
states: Двухмерный тензор с формой[batch, units], представляющий состояние с предыдущего временного шага. Для временного шага 0 на вход ячейки подается начальное состояние, предоставленное пользователем. -
training: Булево значение Python, указывающее, должен ли слой вести себя в режиме обучения или в режиме вывода. Актуально только при использованииdropoutилиrecurrent_dropout.
Методы
get_dropout_mask_for_cell
get_dropout_mask_for_cell(
inputs, training, count=1
)
Получить маску дропаута для входных данных ячейки RNN.
Создаст маску на основе контекста, если нет кэшированной маски. Если создана новая маска, она обновит кэш в ячейке.
| Аргументы | |
|---|---|
inputs | Входной тензор, форма которого будет использована для генерации маски дропаута. |
training | Булевый тензор, режим обучения, дропаут игнорируется в нетренировочном режиме. |
count | Целое число, количество генерируемых масок дропаута. Полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемые значения | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска на основе контекста. |
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
get_recurrent_dropout_mask_for_cell
get_recurrent_dropout_mask_for_cell(
inputs, training, count=1
)
Получить маску рекуррентного дропаута для ячейки RNN.
Создаст маску на основе контекста, если нет кэшированной маски. Если создана новая маска, она обновит кэш в ячейке.
| Аргументы | |
|---|---|
inputs | Входной тензор, форма которого будет использована для генерации маски дропаута. |
training | Булевый тензор, режим обучения, дропаут игнорируется в нетренировочном режиме. |
count | Целое число, количество генерируемых масок дропаута. Полезно для ячеек, у которых внутренние веса объединены вместе. |
| Возвращаемые значения | |
|---|---|
| Список тензоров маски, сгенерированная или кэшированная маска на основе контекста. |
reset_dropout_mask
reset_dropout_mask()
Сбросить кэшированные маски дропаута, если они есть.
Это важно для слоя RNN вызвать это в методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна кэшироваться для временного шага в рамках одной партии, но не должна кэшироваться между партиями. В противном случае это приведёт к необоснованному смещению против определённого индекса данных в партии.
reset_recurrent_dropout_mask
reset_recurrent_dropout_mask()
Сбросить кэшированные маски рекуррентного дропаута, если они есть.
Это важно для слоя RNN вызвать это в методе call(), чтобы кэшированная маска была очищена перед вызовом cell.call(). Маска должна кэшироваться для временного шага в рамках одной партии, но не должна кэшироваться между партиями. В противном случае это приведёт к необоснованному смещению против определённого индекса данных в партии.
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/keras/layers/GRUCell