tf.raw_ops.ApplyRMSProp
Обновление '*var' в соответствии с алгоритмом RMSProp.
tf.raw_ops.ApplyRMSProp(
var, ms, mom, lr, rho, momentum, epsilon, grad, use_locking=False, name=None
)
Обратите внимание, что в плотной реализации этого алгоритма ms и mom будут обновляться, даже если grad равен нулю, но в этой разреженной реализации ms и mom не будут обновляться в итерациях, во время которых grad равен нулю.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)
ms <- rho * mst-1 + (1-rho) * grad * grad mom <- momentum * momt-1 + lr * grad / sqrt(ms + epsilon) var <- var - mom
| Аргументы | |
|---|---|
var |
Изменяемый Tensor. Должен быть одного из следующих типов: float32, float64, int32, uint8, int16, int8, complex64, int64, qint8, quint8, qint32, bfloat16, uint16, complex128, half, uint32, uint64 . Должен быть получен из Variable(). |
ms |
Изменяемый Tensor. Должен иметь тот же тип, что и var. Должен быть получен из Variable(). |
mom |
Изменяемый Tensor. Должен иметь тот же тип, что и var. Должен быть получен из Variable(). |
lr |
Tensor. Должен иметь тот же тип, что и var. Коэффициент масштабирования. Должен быть скаляром. |
rho |
Tensor. Должен иметь тот же тип, что и var. Скорость затухания. Должен быть скаляром. |
momentum |
Tensor. Должен иметь тот же тип, что и var. |
epsilon |
Tensor. Должен иметь тот же тип, что и var. Дополнительный член. Должен быть скаляром. |
grad |
Tensor. Должен иметь тот же тип, что и var. Градиент. |
use_locking |
Необязательный bool. По умолчанию False. Если True, обновление тензоров var, ms и mom защищено блокировкой; в противном случае поведение не определено, но может иметь меньше конфликтов. |
name |
Имя операции (необязательно). |
| Возвращаемые значения | |
|---|---|
Изменяемый Tensor. Имеет тот же тип, что и var. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/ApplyRMSProp
