tf.raw_ops.ResourceApplyRMSProp
Обновляет '*var' согласно алгоритму RMSProp.
tf.raw_ops.ResourceApplyRMSProp(
var,
ms,
mom,
lr,
rho,
momentum,
epsilon,
grad,
use_locking=False,
name=None
)
Обратите внимание, что в плотной реализации этого алгоритма ms и mom будут обновляться даже если grad равен нулю, но в этой разреженной реализации ms и mom не будут обновляться в итерациях, во время которых grad равен нулю.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)
ms <- rho * mst-1 + (1-rho) * grad * grad mom <- momentum * momt-1 + lr * grad / sqrt(ms + epsilon) var <- var - mom
| Аргументы | |
|---|---|
var | A Tensor типа resource. Должен быть получен из Variable(). |
ms | A Tensor типа resource. Должен быть получен из Variable(). |
mom | A Tensor типа resource. Должен быть получен из Variable(). |
lr | A Tensor. Должен быть одним из следующих типов: float32, float64, int32, uint8, int16, int8, complex64, int64, qint8, quint8, qint32, bfloat16, qint16, quint16, uint16, complex128, half, uint32, uint64. Множитель масштабирования. Должен быть скаляром. |
rho | A Tensor. Должен иметь тот же тип, что и lr. Скорость затухания. Должен быть скаляром. |
momentum | A Tensor. Должен иметь тот же тип, что и lr. |
epsilon | A Tensor. Должен иметь тот же тип, что и lr. Добавочный член. Должен быть скаляром. |
grad | A Tensor. Должен иметь тот же тип, что и lr. Градиент. |
use_locking | Необязательный bool. По умолчанию False. Если True, обновление тензоров var, ms и mom защищено блокировкой; в противном случае поведение не определено, но может характеризоваться меньшим конфликтом. |
name | Название операции (необязательно). |
| Возвращаемое значение | |
|---|---|
| Созданная операция. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/ResourceApplyRMSProp