tensorflow::ops::SparseApplyMomentum

#include <training_ops.h>

Обновление соответствующих элементов в '*var' и '*accum' в соответствии со схемой импульса.

Краткое описание

Установите use_nesterov = True, если хотите использовать импульс Нестерова.

То есть для строк, для которых у нас есть grad, мы обновляем var и accum следующим образом:

$$accum = accum * momentum + grad$$ $$var -= lr * accum$$

Аргументы:

• scope: Объект Scope
• var: Должен быть получен из Variable().
• accum: Должен быть получен из Variable().
• lr: Скорость обучения. Должен быть скаляром.
• grad: Градиент.
• indices: Вектор индексов в первом измерении var и accum.
• momentum: Импульс. Должен быть скаляром.

Необязательные атрибуты (см. Attrs):

• use_locking: Если True, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может иметь меньше конфликтов.
• use_nesterov: Если True, тензор, переданный для вычисления grad, будет var - lr * momentum * accum, поэтому в итоге полученный var фактически равен var - lr * momentum * accum.

Возвращает:

• Output: То же, что и "var".

Общедоступные атрибуты

Operation operation

::tensorflow::Output out

Общедоступные функции

 SparseApplyMomentum(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  ::tensorflow::Input momentum
)

 SparseApplyMomentum(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  ::tensorflow::Input momentum,
  const SparseApplyMomentum::Attrs & attrs
)

::tensorflow::Node * node() const 

operator::tensorflow::Input() const 

operator::tensorflow::Output() const 

Общедоступные статические функции

Attrs UseLocking(
  bool x
)

Attrs UseNesterov(
  bool x
)