tf.raw_ops.GRUBlockCellGrad

Вычисляет обратное распространение градиента через ячейку GRU за 1 временной шаг.

Просмотреть псевдонимы

Псевдонимы совместимости для миграции

Подробнее см. в руководстве по миграции.

tf.compat.v1.raw_ops.GRUBlockCellGrad

tf.raw_ops.GRUBlockCellGrad(
    x, h_prev, w_ru, w_c, b_ru, b_c, r, u, c, d_h, name=None
)

Аргументы: x: входные данные для ячейки GRU. h_prev: входное состояние предыдущей ячейки GRU. w_ru: матрица весов для вентилей сброса и обновления. w_c: матрица весов для вентиля связи ячейки. b_ru: вектор смещения для вентилей сброса и обновления. b_c: вектор смещения для вентиля связи ячейки. r: выход вентиля сброса. u: выход вентиля обновления. c: выход вентиля связи ячейки. d_h: градиенты h_new относительно целевой функции.

Возвращает: d_x: градиенты x относительно целевой функции. d_h_prev: градиенты h относительно целевой функции. d_c_bar: градиенты c_bar относительно целевой функции. d_r_bar_u_bar: градиенты r_bar и u_bar относительно целевой функции.

Этот оператор ядра реализует следующие математические уравнения:

Примечание об обозначениях переменных:

Конкатенация a и b обозначается как a_b. Поэлементное скалярное произведение a и b обозначается как ab. Поэлементное произведение обозначается как \circ. Умножение матриц обозначается как *

Дополнительные пояснения:

w_ru можно разделить на 4 разные матрицы.

w_ru = [w_r_x w_u_x
        w_r_h_prev w_u_h_prev]

Аналогичным образом w_c можно разделить на 2 разные матрицы.

w_c = [w_c_x w_c_h_prevr]

b_ru = [b_ru_x b_ru_h]
b_c = [b_c_x b_c_h]

Ещё одно примечание об обозначениях:

d_x = d_x_component_1 + d_x_component_2

where d_x_component_1 = d_r_bar * w_r_x^T + d_u_bar * w_r_x^T
and d_x_component_2 = d_c_bar * w_c_x^T

d_h_prev = d_h_prev_component_1 + d_h_prevr \circ r + d_h \circ u
where d_h_prev_componenet_1 = d_r_bar * w_r_h_prev^T + d_u_bar * w_r_h_prev^T

Математические выкладки для приведённых ниже градиентов:

d_c_bar = d_h \circ (1-u) \circ (1-c \circ c)
d_u_bar = d_h \circ (h-c) \circ u \circ (1-u)

d_r_bar_u_bar = [d_r_bar d_u_bar]

[d_x_component_1 d_h_prev_component_1] = d_r_bar_u_bar * w_ru^T

[d_x_component_2 d_h_prevr] = d_c_bar * w_c^T

d_x = d_x_component_1 + d_x_component_2

d_h_prev = d_h_prev_component_1 + d_h_prevr \circ r + u

Приведённые ниже вычисления выполняются в оболочке Python для градиентов (не в ядре градиентов).

d_w_ru = x_h_prevr^T * d_c_bar

d_w_c = x_h_prev^T * d_r_bar_u_bar

d_b_ru = sum of d_r_bar_u_bar along axis = 0

d_b_c = sum of d_c_bar along axis = 0

Аргументы
`x`	Тензор типа `Tensor`. Допустимые типы: `float32`.
`h_prev`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`w_ru`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`w_c`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`b_ru`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`b_c`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`r`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`u`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`c`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`d_h`	Тензор типа `Tensor`. Должен иметь тот же тип, что и `x`.
`name`	Имя операции (необязательно).

Возвращаемые значения
Кортеж из объектов `Tensor` (d_x, d_h_prev, d_c_bar, d_r_bar_u_bar).
`d_x`	Тензор типа `Tensor`. Имеет тот же тип, что и `x`.
`d_h_prev`	Тензор типа `Tensor`. Имеет тот же тип, что и `x`.
`d_c_bar`	Тензор типа `Tensor`. Имеет тот же тип, что и `x`.
`d_r_bar_u_bar`	Тензор типа `Tensor`. Имеет тот же тип, что и `x`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/GRUBlockCellGrad