tf.raw_ops.ResourceSparseApplyRMSProp

Обновление '*var' в соответствии с алгоритмом RMSProp.

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения дополнительных сведений.

tf.compat.v1.raw_ops.ResourceSparseApplyRMSProp

tf.raw_ops.ResourceSparseApplyRMSProp(
    var, ms, mom, lr, rho, momentum, epsilon, grad, indices, use_locking=False,
    name=None
)

Обратите внимание, что в плотной реализации этого алгоритма ms и mom будут обновляться даже если grad равен нулю, но в этом разреженном варианте ms и mom не будут обновляться в итерациях, в которых grad равен нулю.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)

ms <- rho * ms_t-1 + (1-rho) * grad * grad mom <- momentum * mom_t-1 + lr * grad / sqrt(ms + epsilon) var <- var - mom

Аргументы
`var`	A `Tensor` типа `resource`. Должен быть из Variable().
`ms`	A `Tensor` типа `resource`. Должен быть из Variable().
`mom`	A `Tensor` типа `resource`. Должен быть из Variable().
`lr`	A `Tensor`. Должен быть одного из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Коэффициент масштабирования. Должен быть скалярным.
`rho`	A `Tensor`. Должен иметь тот же тип, что и `lr`. Скорость затухания. Должен быть скалярным.
`momentum`	A `Tensor`. Должен иметь тот же тип, что и `lr`.
`epsilon`	A `Tensor`. Должен иметь тот же тип, что и `lr`. Слагаемое типа Ridge. Должен быть скалярным.
`grad`	A `Tensor`. Должен иметь тот же тип, что и `lr`. Градиент.
`indices`	A `Tensor`. Должен быть одного из следующих типов: `int32`, `int64`. Вектор индексов в первом измерении var, ms и mom.
`use_locking`	Необязательный `bool`. По умолчанию `False`. Если `True`, обновление тензоров var, ms и mom защищено блокировкой; в противном случае поведение не определено, но может проявиться меньше конкуренции.
`name`	Имя операции (необязательно).

Возвращаемые значения
Созданная операция.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/raw_ops/ResourceSparseApplyRMSProp