tf.raw_ops.SparseApplyCenteredRMSProp

Обновить '*var' в соответствии с алгоритмом центрированного RMSProp.

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.raw_ops.SparseApplyCenteredRMSProp

tf.raw_ops.SparseApplyCenteredRMSProp(
    var,
    mg,
    ms,
    mom,
    lr,
    rho,
    momentum,
    epsilon,
    grad,
    indices,
    use_locking=False,
    name=None
)

Алгоритм центрированного RMSProp использует оценку центрированного второго момента (т.е. дисперсии) для нормализации, в отличие от обычного RMSProp, который использует (нецентрированный) второй момент. Это часто помогает при обучении, но немного дороже с точки зрения вычислений и памяти.

Обратите внимание, что в плотной реализации этого алгоритма mg, ms и mom будут обновляться, даже если градиент равен нулю, но в этой разреженной реализации mg, ms и mom не будут обновляться в итерациях, в которых градиент равен нулю.

среднее_квадрат = decay * среднее_квадрат + (1-decay) * градиент ** 2 средний_градиент = decay * средний_градиент + (1-decay) * градиент Дельта = learning_rate * градиент / sqrt(среднее_квадрат + epsilon - средний_градиент ** 2)

\[ms <- rho * ms_{t-1} + (1-rho) * grad * grad\]

\[mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)\]

\[var <- var - mom\]

Аргументы
`var`	Изменяемая `Tensor`. Должен быть одним из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `qint16`, `quint16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Должен быть из Variable().
`mg`	Изменяемая `Tensor`. Должен иметь тот же тип, что и `var`. Должен быть из Variable().
`ms`	Изменяемая `Tensor`. Должен иметь тот же тип, что и `var`. Должен быть из Variable().
`mom`	Изменяемая `Tensor`. Должен иметь тот же тип, что и `var`. Должен быть из Variable().
`lr`	`Tensor`. Должен иметь тот же тип, что и `var`. Коэффициент масштабирования. Должен быть скаляром.
`rho`	`Tensor`. Должен иметь тот же тип, что и `var`. Скорость затухания. Должен быть скаляром.
`momentum`	`Tensor`. Должен иметь тот же тип, что и `var`.
`epsilon`	`Tensor`. Должен иметь тот же тип, что и `var`. Член-сглаживание. Должен быть скаляром.
`grad`	`Tensor`. Должен иметь тот же тип, что и `var`. Градиент.
`indices`	`Tensor`. Должен быть одним из следующих типов: `int32`, `int64`. Вектор индексов в первое измерение var, ms и mom.
`use_locking`	Необязательный `bool`. По умолчанию `False`. Если `True`, обновление тензоров var, mg, ms и mom защищено блокировкой; в противном случае поведение не определено, но может проявиться меньше конфликтов.
`name`	Имя операции (необязательно).

Возвращаемое значение
Изменяемая `Tensor`. Имеет тот же тип, что и `var`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/SparseApplyCenteredRMSProp