tf.raw_ops.ResourceApplyAdam
Обновление '*var' по алгоритму Adam.
tf.raw_ops.ResourceApplyAdam(
var, m, v, beta1_power, beta2_power, lr, beta1, beta2, epsilon, grad,
use_locking=False, use_nesterov=False, name=None
)
$$\text{lr}_t := \mathrm{learning\_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{v_t} + \epsilon)$$
| Аргументы | |
|---|---|
var | Переменная типа resource. Должна быть из Variable(). |
m | Переменная типа resource. Должна быть из Variable(). |
v | Переменная типа resource. Должна быть из Variable(). |
beta1_power | Тип. Должен быть одним из следующих типов: float32, float64, int32, uint8, int16, int8, complex64, int64, qint8, quint8, qint32, bfloat16, uint16, complex128, half, uint32, uint64. Должен быть скаляром. |
beta2_power | Тип. Должен иметь тот же тип, что и beta1_power. Должен быть скаляром. |
lr | Тип. Должен иметь тот же тип, что и beta1_power. Коэффициент масштабирования. Должен быть скаляром. |
beta1 | Тип. Должен иметь тот же тип, что и beta1_power. Фактор импульса. Должен быть скаляром. |
beta2 | Тип. Должен иметь тот же тип, что и beta1_power. Фактор импульса. Должен быть скаляром. |
epsilon | Тип. Должен иметь тот же тип, что и beta1_power. Коэффициент сглаживания. Должен быть скаляром. |
grad | Тип. Должен иметь тот же тип, что и beta1_power. Градиент. |
use_locking | Необязательный тип. По умолчанию False. Если True, обновление тензоров var, m и v будет защищено блокировкой; в противном случае поведение не определено, но может проявлять меньше конкуренции. |
use_nesterov | Необязательный тип. По умолчанию False. Если True, используется обновление Нестерова. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
| Созданная операция. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/ResourceApplyAdam