Spec-Zone.ru › TensorFlow 2.9

tf.keras.optimizers.Adagrad

Просмотреть исходный код на GitHub

Оптимизатор, реализующий алгоритм Adagrad.

Наследуется от: Optimizer

Просмотр псевдонимов

Псевдонимы для миграции

Подробнее см. Руководство по миграции.

tf.compat.v1.keras.optimizers.Adagrad

tf.keras.optimizers.Adagrad(
    learning_rate=0.001,
    initial_accumulator_value=0.1,
    epsilon=1e-07,
    name='Adagrad',
    **kwargs
)

Adagrad — это оптимизатор с параметрически-специфическими скоростями обучения, которые адаптируются относительно частоты обновления параметра во время обучения. Чем больше обновлений получает параметр, тем меньше обновления.

Аргументы
learning_rate Начальное значение скорости обучения: либо число с плавающей запятой, либо экземпляр tf.keras.optimizers.schedules.LearningRateSchedule. По умолчанию 0,001. Обратите внимание, что Adagrad обычно выигрывает от более высоких начальных значений скорости обучения по сравнению с другими оптимизаторами. Для соответствия точной форме в оригинальной статье используйте 1,0.
initial_accumulator_value Число с плавающей запятой. Начальное значение для аккумуляторов (значения импульса на параметр). Должно быть неотрицательным.
epsilon Небольшое число с плавающей запятой, используемое для поддержания числовой устойчивости.
name Необязательный префикс имени для операций, созданных при применении градиентов. По умолчанию "Adagrad".
**kwargs ключевые аргументы. Разрешенные аргументы — clipvalue, clipnorm, global_clipnorm. Если clipvalue (число с плавающей запятой) установлено, градиент каждого веса ограничивается значением не более этого. Если clipnorm (число с плавающей запятой) установлено, градиент каждого веса отдельно ограничивается так, чтобы его норма не превышала этого значения. Если global_clipnorm (число с плавающей запятой) установлено, градиент всех весов ограничивается таким образом, чтобы их общая норма не превышала этого значения.

Ссылка:

  • Duchi et al., 2011.
Исключения
ValueError в случае любого недопустимого аргумента.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/keras/optimizers/Adagrad

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API