tensorflow::ops::ApplyAdam

#include <training_ops.h>

Обновить '*var' в соответствии с алгоритмом Adam.

Краткое описание

$$\text{lr}_t := \mathrm{lr} \cdot \frac{\sqrt{1 - \beta_2^t} }{1 - \beta_1^t}$$ $$m_t := \beta_1 \cdot m_{t-1} + (1 - \beta_1) \cdot g$$ $$v_t := \beta_2 \cdot v_{t-1} + (1 - \beta_2) \cdot g^2$$ $$\text{var} := \begin{cases} \text{var} - (m_t \beta_1 + g \cdot (1 - \beta_1))\cdot\text{lr}_t/(\sqrt{v_t} + \epsilon), &\text{если use_nesterov}\\ \text{var} - m_t \cdot \text{lr}_t /(\sqrt{v_t} + \epsilon), &\text{в противном случае} \end{cases}$$

Args:

• scope: Объект Scope
• var: Должен быть получен из Variable().
• m: Должен быть получен из Variable().
• v: Должен быть получен из Variable().
• beta1_power: Должен быть скаляром.
• beta2_power: Должен быть скаляром.
• lr: Коэффициент масштабирования. Должен быть скаляром.
• beta1: Коэффициент импульса. Должен быть скаляром.
• beta2: Коэффициент импульса. Должен быть скаляром.
• epsilon: Член регуляризации. Должен быть скаляром.
• grad: Градиент.

Необязательные атрибуты (см. Attrs):

• use_locking: Если True, обновление тензоров var, m и v будет защищено блокировкой; в противном случае поведение не определено, но может наблюдаться меньшая конкуренция.
• use_nesterov: Если True, используется обновление Нестерова.

Returns:

• Output: То же, что и "var".

Публичные атрибуты

Operation operation

::tensorflow::Output out

Публичные функции

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ApplyAdam::Attrs & attrs
)

::tensorflow::Node * node() const 

operator::tensorflow::Input() const 

operator::tensorflow::Output() const 

Публичные статические функции

Attrs UseLocking(
  bool x
)

Attrs UseNesterov(
  bool x
)