tf.raw_ops.SparseApplyCenteredRMSProp

Обновить '*var' в соответствии с алгоритмом RMSProp с центрированием.

Просмотр псевдонимов

Псевдонимы для миграции

Дополнительные сведения см. в руководстве по миграции.

tf.compat.v1.raw_ops.SparseApplyCenteredRMSProp

tf.raw_ops.SparseApplyCenteredRMSProp(
    var, mg, ms, mom, lr, rho, momentum, epsilon, grad, indices, use_locking=False,
    name=None
)

Алгоритм RMSProp с центрированием использует оценку центрированного второго момента (то есть дисперсии) для нормализации по сравнению с обычным алгоритмом RMSProp, который использует (нецентрированный) второй момент. Это часто помогает в обучении, но немного дороже в вычислительном отношении и по памяти.

Обратите внимание, что в плотной реализации этого алгоритма mg, ms и mom обновляются даже если grad равен нулю, но в этой разреженной реализации mg, ms и mom не обновляются в итерациях, когда grad равен нулю.

mean_square = decay * mean_square + (1-decay) * gradient ** 2 mean_grad = decay * mean_grad + (1-decay) * gradient Delta = learning_rate * gradient / sqrt(mean_square + epsilon - mean_grad ** 2)

$$ms

$$mom

$$var

Аргументы
`var`	Изменяемая `Tensor`. Должна быть одного из следующих типов: `float32`, `float64`, `int32`, `uint8`, `int16`, `int8`, `complex64`, `int64`, `qint8`, `quint8`, `qint32`, `bfloat16`, `uint16`, `complex128`, `half`, `uint32`, `uint64`. Должна быть из Variable().
`mg`	Изменяемая `Tensor`. Должна иметь тот же тип, что и `var`. Должна быть из Variable().
`ms`	Изменяемая `Tensor`. Должна иметь тот же тип, что и `var`. Должна быть из Variable().
`mom`	Изменяемая `Tensor`. Должна иметь тот же тип, что и `var`. Должна быть из Variable().
`lr`	`Tensor`. Должна иметь тот же тип, что и `var`. Коэффициент масштабирования. Должен быть скаляром.
`rho`	`Tensor`. Должна иметь тот же тип, что и `var`. Скорость затухания. Должен быть скаляром.
`momentum`	`Tensor`. Должна иметь тот же тип, что и `var`.
`epsilon`	`Tensor`. Должна иметь тот же тип, что и `var`. Слагаемое Риджа. Должен быть скаляром.
`grad`	`Tensor`. Должна иметь тот же тип, что и `var`. Градиент.
`indices`	`Tensor`. Должна быть одного из следующих типов: `int32`, `int64`. Вектор индексов в первое измерение var, ms и mom.
`use_locking`	Необязательный `bool`. По умолчанию `False`. Если `True`, обновление тензоров var, mg, ms и mom защищено блокировкой; в противном случае поведение не определено, но может быть связано с меньшим числом конфликтов.
`name`	Имя операции (необязательно).

Возвращаемое значение
Изменяемая `Tensor`. Имеет тот же тип, что и `var`.

За исключением случаев, когда указано иное, содержимое этой страницы лицензируется по лицензии Creative Commons Attribution 4.0, а примеры кода лицензированы по лицензии Apache 2.0. Подробности см. в Политиках Google для разработчиков. Java — зарегистрированный товарный знак Oracle и/или её аффилированных лиц.

Последнее обновление 2020-10-01 UTC.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/SparseApplyCenteredRMSProp