Spec-Zone.ru › TensorFlow 2.4

tf.compat.v1.keras.layers.GRU

Временная рекуррентная ячейка — Cho et al. 2014.

Наследует от: RNN, Layer, Module

tf.compat.v1.keras.layers.GRU(
    units, activation='tanh',
    recurrent_activation='hard_sigmoid', use_bias=True,
    kernel_initializer='glorot_uniform',
    recurrent_initializer='orthogonal',
    bias_initializer='zeros', kernel_regularizer=None,
    recurrent_regularizer=None, bias_regularizer=None, activity_regularizer=None,
    kernel_constraint=None, recurrent_constraint=None, bias_constraint=None,
    dropout=0.0, recurrent_dropout=0.0, return_sequences=False, return_state=False,
    go_backwards=False, stateful=False, unroll=False, reset_after=False, **kwargs
)

Существует два варианта. По умолчанию используется вариант, основанный на 1406.1078v3, и в нём применяется шлюз сброса к скрытому состоянию до умножения матриц. Другой вариант основан на оригинальной версии 1406.1078v1, и порядок там обратный.

Второй вариант совместим с CuDNNGRU (только для GPU) и позволяет выполнять вывод на CPU. Поэтому он имеет отдельные смещения для kernel и recurrent_kernel. Используйте 'reset_after'=True и recurrent_activation='sigmoid'.

Аргументы
units Положительное целое число, размерность выходного пространства.
activation Функция активации. По умолчанию: гиперболический тангенс (tanh). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x).
recurrent_activation Функция активации для рекуррентного шага. По умолчанию: жёсткий сигмоид (hard_sigmoid). Если передано значение None, активация не применяется (т. е. используется линейная активация: a(x) = x).
use_bias Булево значение, указывает, использует ли слой вектор смещений.
kernel_initializer Инициализатор матрицы весов kernel, используемой для линейного преобразования входных данных.
recurrent_initializer Инициализатор матрицы весов recurrent_kernel, используемой для линейного преобразования рекуррентного состояния.
bias_initializer Инициализатор вектора смещений.
kernel_regularizer Функция регуляризации, применяемая к матрице весов kernel
recurrent_regularizer Функция регуляризации, применяемая к матрице весов recurrent_kernel
bias_regularizer Функция регуляризации, применяемая к вектору смещений.
activity_regularizer Функция регуляризации, применяемая к выводу слоя (его «активации»).
kernel_constraint Функция ограничения, применяемая к матрице весов kernel
recurrent_constraint Функция ограничения, применяемая к матрице весов recurrent_kernel
bias_constraint Функция ограничения, применяемая к вектору смещений.
dropout Вещественное число от 0 до 1. Доля единиц, подлежащих отбрасыванию для линейного преобразования входных данных.
recurrent_dropout Вещественное число от 0 до 1. Доля единиц, подлежащих отбрасыванию для линейного преобразования рекуррентного состояния.
return_sequences Булево значение. Нужно ли вернуть последний выход в выходной последовательности или всю последовательность.
return_state Булево значение. Нужно ли вернуть последнее состояние помимо вывода.
go_backwards Булево значение (по умолчанию False). Если True, последовательность входных данных обрабатывается в обратном порядке, а возвращаемая последовательность также будет обратной.
stateful Булево значение (по умолчанию False). Если True, последнее состояние для каждого образца с индексом i в пакете будет использоваться в качестве начального состояния для образца с индексом i в последующем пакете.
unroll Булево значение (по умолчанию False). Если True, сеть будет развернута, в противном случае будет использоваться символический цикл. Развертывание может ускорить RNN, хотя оно, как правило, более ресурсоёмкое. Развертывание подходит только для коротких последовательностей.
time_major Формат структуры тензоров inputs и outputs. Если True, входы и выходы будут иметь форму (timesteps, batch, ...), в противном случае — (batch, timesteps, ...). Использование time_major = True немного эффективнее, потому что оно позволяет избежать транспонирования в начале и конце вычисления RNN. Однако большинство данных TensorFlow имеют структуру batch-major, поэтому по умолчанию эта функция принимает входные данные и выводит выходные данные в форме batch-major.
reset_after Конвенция GRU (применяется ли шлюз сброса после или до умножения матриц). False = "перед" (по умолчанию), True = "после" (совместимость с CuDNN).

Аргументы вызова:

  • inputs: Тензор размерностью 3.
  • mask: Бинарный тензор формы (samples, timesteps), указывающий, должен ли быть замаскирован данный временной шаг.
  • training: Булево значение Python, указывающее, должен ли слой работать в режиме обучения или в режиме вывода. Этот аргумент передаётся ячейке при её вызове. Это актуально только если используется dropout или recurrent_dropout.
  • initial_state: Список начальных тензоров состояния, передаваемых в первый вызов ячейки.
Атрибуты
activation
bias_constraint
bias_initializer
bias_regularizer
dropout
implementation
kernel_constraint
kernel_initializer
kernel_regularizer
recurrent_activation
recurrent_constraint
recurrent_dropout
recurrent_initializer
recurrent_regularizer
reset_after
states
units
use_bias

Методы

reset_states

Просмотреть исходный код

reset_states(
    states=None
)

Сбросить записанные состояния для рекуррентного слоя со статусом.

Можно использовать только тогда, когда рекуррентный слой создан с stateful = True Аргументы: состояния: массивы NumPy, содержащие значение для начального состояния, которое будет передано ячейке на первом шаге. Если значение равно None, будет создан массив NumPy с нулевыми значениями, размер которого соответствует размеру состояния ячейки.

Исключения
AttributeError При использовании рекуррентного слоя без статуса.
ValueError При неизвестном размере пакета рекуррентного слоя.
ValueError При несовместимости входного массива NumPy с состоянием рекуррентного слоя по размеру или типу данных.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/keras/layers/GRU

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API