tf.raw_ops.ResourceSparseApplyCenteredRMSProp

Обновляет '*var' в соответствии с алгоритмом центрированного RMSProp.

Просмотреть псевдонимы

Псевдонимы совместимости для миграции

Подробнее см. в руководстве по миграции.

tf.compat.v1.raw_ops.ResourceSparseApplyCenteredRMSProp

tf.raw_ops.ResourceSparseApplyCenteredRMSProp(
    var,
    mg,
    ms,
    mom,
    lr,
    rho,
    momentum,
    epsilon,
    grad,
    indices,
    use_locking=False,
    name=None
)

В алгоритме центрированного RMSProp для нормализации используется оценка центрированного второго момента (то есть дисперсии), в отличие от обычного RMSProp, в котором используется (нецентрированный) второй момент. Это часто помогает при обучении, но требует несколько больших вычислительных затрат и объёма памяти.

Обратите внимание: в плотной реализации этого алгоритма значения mg, ms и mom будут обновляться, даже если grad равен нулю, а в этой разреженной реализации значения mg, ms и mom не будут обновляться на итерациях, в которых grad равен нулю.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 mean_grad = decay * mean_grad + (1-decay) * gradient Delta = learning_rate * gradient / sqrt(mean_square + epsilon - mean_grad ** 2)

ms <- rho * ms{t-1} + (1-rho) * grad * grad mom <- momentum * mom{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

Аргументы
`var`	Объект `Tensor` типа `resource`. Должен быть получен из Variable().
`mg`	Объект `Tensor` типа `resource`. Должен быть получен из Variable().
`ms`	Объект `Tensor` типа `resource`. Должен быть получен из Variable().
`mom`	Объект `Tensor` типа `resource`. Должен быть получен из Variable().
`lr`	Объект `Tensor`. Должен иметь один из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `qint16`, `quint16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Коэффициент масштабирования. Должен быть скаляром.
`rho`	Объект `Tensor`. Должен иметь тот же тип, что и `lr`. Скорость затухания. Должен быть скаляром.
`momentum`	Объект `Tensor`. Должен иметь тот же тип, что и `lr`.
`epsilon`	Объект `Tensor`. Должен иметь тот же тип, что и `lr`. Параметр регуляризации. Должен быть скаляром.
`grad`	Объект `Tensor`. Должен иметь тот же тип, что и `lr`. Градиент.
`indices`	Объект `Tensor`. Должен иметь один из следующих типов: `int32`, `int64`. Вектор индексов первого измерения var, ms и mom.
`use_locking`	Необязательный объект `bool`. По умолчанию — `False`. Если `True`, обновление тензоров var, mg, ms и mom защищено блокировкой; в противном случае поведение не определено, но может характеризоваться меньшей конкуренцией за ресурсы.
`name`	Имя операции (необязательно).

Возвращаемое значение
Созданная операция.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/ResourceSparseApplyCenteredRMSProp