tf.compat.v1.keras.layers.GRU
Временная рекуррентная ячейка — Cho et al. 2014.
Наследует от: RNN, Layer, Module
tf.compat.v1.keras.layers.GRU(
units, activation='tanh',
recurrent_activation='hard_sigmoid', use_bias=True,
kernel_initializer='glorot_uniform',
recurrent_initializer='orthogonal',
bias_initializer='zeros', kernel_regularizer=None,
recurrent_regularizer=None, bias_regularizer=None, activity_regularizer=None,
kernel_constraint=None, recurrent_constraint=None, bias_constraint=None,
dropout=0.0, recurrent_dropout=0.0, return_sequences=False, return_state=False,
go_backwards=False, stateful=False, unroll=False, reset_after=False, **kwargs
)
Существует два варианта. По умолчанию используется вариант, основанный на 1406.1078v3, и в нём применяется шлюз сброса к скрытому состоянию до умножения матриц. Другой вариант основан на оригинальной версии 1406.1078v1, и порядок там обратный.
Второй вариант совместим с CuDNNGRU (только для GPU) и позволяет выполнять вывод на CPU. Поэтому он имеет отдельные смещения для kernel и recurrent_kernel. Используйте 'reset_after'=True и recurrent_activation='sigmoid'.
| Аргументы | |
|---|---|
units | Положительное целое число, размерность выходного пространства. |
activation | Функция активации. По умолчанию: гиперболический тангенс (tanh). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x). |
recurrent_activation | Функция активации для рекуррентного шага. По умолчанию: жёсткий сигмоид (hard_sigmoid). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x). |
use_bias | Булево значение, указывает, использует ли слой вектор смещений. |
kernel_initializer | Инициализатор матрицы весов kernel, используемой для линейного преобразования входных данных. |
recurrent_initializer | Инициализатор матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния. |
bias_initializer | Инициализатор вектора смещений. |
kernel_regularizer | Функция регуляризации, применяемая к матрице весов kernel |
recurrent_regularizer | Функция регуляризации, применяемая к матрице весов recurrent_kernel |
bias_regularizer | Функция регуляризации, применяемая к вектору смещений. |
activity_regularizer | Функция регуляризации, применяемая к выводу слоя (его «активации»). |
kernel_constraint | Функция ограничения, применяемая к матрице весов kernel |
recurrent_constraint | Функция ограничения, применяемая к матрице весов recurrent_kernel |
bias_constraint | Функция ограничения, применяемая к вектору смещений. |
dropout | Вещественное число от 0 до 1. Доля единиц, подлежащих отбрасыванию для линейного преобразования входных данных. |
recurrent_dropout | Вещественное число от 0 до 1. Доля единиц, подлежащих отбрасыванию для линейного преобразования рекуррентного состояния. |
return_sequences | Булево значение. Нужно ли вернуть последний выход в выходной последовательности или всю последовательность. |
return_state | Булево значение. Нужно ли вернуть последнее состояние помимо вывода. |
go_backwards | Булево значение (по умолчанию False). Если True, последовательность входных данных обрабатывается в обратном порядке, а возвращаемая последовательность также будет обратной. |
stateful | Булево значение (по умолчанию False). Если True, последнее состояние для каждого образца с индексом i в пакете будет использоваться в качестве начального состояния для образца с индексом i в последующем пакете. |
unroll | Булево значение (по умолчанию False). Если True, сеть будет развернута, в противном случае будет использоваться символический цикл. Развертывание может ускорить RNN, хотя оно, как правило, более ресурсоёмкое. Развертывание подходит только для коротких последовательностей. |
time_major | Формат структуры тензоров inputs и outputs. Если True, входы и выходы будут иметь форму (timesteps, batch, ...), в противном случае — (batch, timesteps, ...). Использование time_major = True немного эффективнее, потому что оно позволяет избежать транспонирования в начале и конце вычисления RNN. Однако большинство данных TensorFlow имеют структуру batch-major, поэтому по умолчанию эта функция принимает входные данные и выводит выходные данные в форме batch-major. |
reset_after | Конвенция GRU (применяется ли шлюз сброса после или до умножения матриц). False = "перед" (по умолчанию), True = "после" (совместимость с CuDNN). |
Аргументы вызова:
-
inputs: Тензор размерностью 3. -
mask: Бинарный тензор формы(samples, timesteps), указывающий, должен ли быть замаскирован данный временной шаг. -
training: Булево значение Python, указывающее, должен ли слой работать в режиме обучения или в режиме вывода. Этот аргумент передаётся ячейке при её вызове. Это актуально только если используетсяdropoutилиrecurrent_dropout. -
initial_state: Список начальных тензоров состояния, передаваемых в первый вызов ячейки.
| Атрибуты | |
|---|---|
activation | |
bias_constraint | |
bias_initializer | |
bias_regularizer | |
dropout | |
implementation | |
kernel_constraint | |
kernel_initializer | |
kernel_regularizer | |
recurrent_activation | |
recurrent_constraint | |
recurrent_dropout | |
recurrent_initializer | |
recurrent_regularizer | |
reset_after | |
states | |
units | |
use_bias | |
Методы
reset_states
reset_states(
states=None
)
Сбросить записанные состояния для рекуррентного слоя со статусом.
Можно использовать только тогда, когда рекуррентный слой создан с stateful = True Аргументы: состояния: массивы NumPy, содержащие значение для начального состояния, которое будет передано ячейке на первом шаге. Если значение равно None, будет создан массив NumPy с нулевыми значениями, размер которого соответствует размеру состояния ячейки.
| Исключения | |
|---|---|
AttributeError | При использовании рекуррентного слоя без статуса. |
ValueError | При неизвестном размере пакета рекуррентного слоя. |
ValueError | При несовместимости входного массива NumPy с состоянием рекуррентного слоя по размеру или типу данных. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/keras/layers/GRU