tf.keras.optimizers.legacy.Adagrad
Оптимизатор, реализующий алгоритм Adagrad.
Наследуется от: Adagrad, Optimizer
tf.keras.optimizers.legacy.Adagrad(
learning_rate=0.001,
initial_accumulator_value=0.1,
epsilon=1e-07,
name='Adagrad',
**kwargs
)
Adagrad — это оптимизатор с параметрически-специфическими скоростями обучения, которые адаптируются относительно частоты обновления параметра во время обучения. Чем больше обновлений получает параметр, тем меньше обновления.
| Аргументы | |
|---|---|
learning_rate | Начальное значение скорости обучения: либо число с плавающей точкой, либо экземпляр tf.keras.optimizers.schedules.LearningRateSchedule. По умолчанию 0,001. Обратите внимание, что Adagrad обычно выигрывает от более высоких начальных значений скорости обучения по сравнению с другими оптимизаторами. Для соответствия точной форме в оригинальной статье используйте 1,0. |
initial_accumulator_value | Число с плавающей точкой. Начальное значение для аккумуляторов (значения импульса для каждого параметра). Должно быть неотрицательным. |
epsilon | Малое число с плавающей точкой, используемое для поддержания числовой устойчивости. |
name | Необязательный префикс имени для операций, созданных при применении градиентов. По умолчанию "Adagrad". |
**kwargs | ключевые аргументы. Разрешенные аргументы — clipvalue, clipnorm, global_clipnorm. Если clipvalue (число с плавающей точкой) установлено, градиент каждого веса ограничивается значением, не превышающим это значение. Если clipnorm (число с плавающей точкой) установлено, градиент каждого веса индивидуально ограничен, так что его норма не превышает этого значения. Если global_clipnorm (число с плавающей точкой) установлено, градиент всех весов ограничен, так что их глобальная норма не превышает этого значения. |
Ссылка:
| Исключения | |
|---|---|
ValueError | в случае любого недопустимого аргумента. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/keras/optimizers/legacy/Adagrad