tf.raw_ops.ApplyAdam

Обновление '*var' в соответствии с алгоритмом Adam.

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения дополнительной информации.

tf.compat.v1.raw_ops.ApplyAdam

tf.raw_ops.ApplyAdam(
    var, m, v, beta1_power, beta2_power, lr, beta1, beta2, epsilon, grad,
    use_locking=False, use_nesterov=False, name=None
)

$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$

$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$

$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$

$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$

Аргументы
`var`	Изменяемая `Tensor`. Должно быть одним из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Должно быть получено из Variable().
`m`	Изменяемая `Tensor`. Должно иметь тот же тип, что и `var`. Должно быть получено из Variable().
`v`	Изменяемая `Tensor`. Должно иметь тот же тип, что и `var`. Должно быть получено из Variable().
`beta1_power`	`Tensor`. Должно иметь тот же тип, что и `var`. Должно быть скалярным.
`beta2_power`	`Tensor`. Должно иметь тот же тип, что и `var`. Должно быть скалярным.
`lr`	`Tensor`. Должно иметь тот же тип, что и `var`. Множитель масштабирования. Должно быть скалярным.
`beta1`	`Tensor`. Должно иметь тот же тип, что и `var`. Коэффициент импульса. Должно быть скалярным.
`beta2`	`Tensor`. Должно иметь тот же тип, что и `var`. Коэффициент импульса. Должно быть скалярным.
`epsilon`	`Tensor`. Должно иметь тот же тип, что и `var`. Слагаемое Риджа. Должно быть скалярным.
`grad`	`Tensor`. Должно иметь тот же тип, что и `var`. Градиент.
`use_locking`	Необязательный `bool`. По умолчанию `False`. Если `True`, обновление тензоров var, m и v будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конкуренции.
`use_nesterov`	Необязательный `bool`. По умолчанию `False`. Если `True`, используется обновление Нестерова.
`name`	Название операции (необязательно).

Возвращаемое значение
Изменяемая `Tensor`. Имеет тот же тип, что и `var`.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/ApplyAdam