tf.keras.optimizers.Adagrad
| Просмотреть исходный код на GitHub |
Оптимизатор, реализующий алгоритм Adagrad.
Наследуется от: Optimizer
tf.keras.optimizers.Adagrad(
learning_rate=0.001,
initial_accumulator_value=0.1,
epsilon=1e-07,
name='Adagrad',
**kwargs
)
Adagrad — это оптимизатор с параметрически-специфическими скоростями обучения, которые адаптируются относительно частоты обновления параметра во время обучения. Чем больше обновлений получает параметр, тем меньше обновления.
| Аргументы | |
|---|---|
learning_rate | Начальное значение скорости обучения: либо число с плавающей запятой, либо экземпляр tf.keras.optimizers.schedules.LearningRateSchedule. По умолчанию 0,001. Обратите внимание, что Adagrad обычно выигрывает от более высоких начальных значений скорости обучения по сравнению с другими оптимизаторами. Для соответствия точной форме в оригинальной статье используйте 1,0. |
initial_accumulator_value | Число с плавающей запятой. Начальное значение для аккумуляторов (значения импульса на параметр). Должно быть неотрицательным. |
epsilon | Небольшое число с плавающей запятой, используемое для поддержания числовой устойчивости. |
name | Необязательный префикс имени для операций, созданных при применении градиентов. По умолчанию "Adagrad". |
**kwargs | ключевые аргументы. Разрешенные аргументы — clipvalue, clipnorm, global_clipnorm. Если clipvalue (число с плавающей запятой) установлено, градиент каждого веса ограничивается значением не более этого. Если clipnorm (число с плавающей запятой) установлено, градиент каждого веса отдельно ограничивается так, чтобы его норма не превышала этого значения. Если global_clipnorm (число с плавающей запятой) установлено, градиент всех весов ограничивается таким образом, чтобы их общая норма не превышала этого значения. |
Ссылка:
| Исключения | |
|---|---|
ValueError | в случае любого недопустимого аргумента. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/keras/optimizers/Adagrad