tf.raw_ops.ResourceApplyAdam

Обновление '*var' согласно алгоритму Adam.

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.raw_ops.ResourceApplyAdam

tf.raw_ops.ResourceApplyAdam(
    var, m, v, beta1_power, beta2_power, lr, beta1, beta2, epsilon, grad,
    use_locking=False, use_nesterov=False, name=None
)

$$\text{lr}_t := \mathrm{learning\_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$

$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$

$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$

$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{v_t} + \epsilon)$$

Аргументы
`var`	Переменная типа `resource`. Должна быть из Variable().
`m`	Переменная типа `resource`. Должна быть из Variable().
`v`	Переменная типа `resource`. Должна быть из Variable().
`beta1_power`	Вещественное значение. Должно быть одним из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Должно быть скаляром.
`beta2_power`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Должно быть скаляром.
`lr`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Коэффициент масштабирования. Должно быть скаляром.
`beta1`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Коэффициент импульса. Должно быть скаляром.
`beta2`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Коэффициент импульса. Должно быть скаляром.
`epsilon`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Добавочный член. Должно быть скаляром.
`grad`	Вещественное значение. Должно иметь тот же тип, что и `beta1_power`. Градиент.
`use_locking`	Необязательное логическое значение. По умолчанию `False`. Если `True`, обновление тензоров var, m и v будет защищено блокировкой; в противном случае поведение не определено, но может проявлять меньшую конкуренцию.
`use_nesterov`	Необязательное логическое значение. По умолчанию `False`. Если `True`, используется обновление Nesterov.
`name`	Имя операции (необязательно).

Возвращаемые значения
Созданная операция.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/raw_ops/ResourceApplyAdam