tf.compat.v1.tpu.experimental.AdagradParameters

Параметры оптимизации для Adagrad с TPU-вложениями.

tf.compat.v1.tpu.experimental.AdagradParameters(
    learning_rate, initial_accumulator=0.1, use_gradient_accumulation=True,
    clip_weight_min=None, clip_weight_max=None, weight_decay_factor=None,
    multiply_weight_decay_factor_by_learning_rate=None
)

Передайте это в tf.estimator.tpu.experimental.EmbeddingConfigSpec через аргумент optimization_parameters, чтобы установить оптимизатор и его параметры. Подробнее см. в документации для tf.estimator.tpu.experimental.EmbeddingConfigSpec.

estimator = tf.estimator.tpu.TPUEstimator(
    ...
    embedding_spec=tf.estimator.tpu.experimental.EmbeddingConfigSpec(
        ...
        optimization_parameters=tf.tpu.experimental.AdagradParameters(0.1),
        ...))

Аргументы
`learning_rate`	используется для обновления таблицы вложений.
`initial_accumulator`	начальное значение аккумулятора для Adagrad.
`use_gradient_accumulation`	установка этого значения в `False` делает вычисление градиентов вложений менее точным, но быстрее. Подробнее см. в `optimization_parameters.proto`.
`clip_weight_min`	минимальное значение для обрезки; None означает -бесконечность.
`clip_weight_max`	максимальное значение для обрезки; None означает +бесконечность.
`weight_decay_factor`	величина распада весов; None означает, что веса не распадаются.
`multiply_weight_decay_factor_by_learning_rate`	если True, `weight_decay_factor` умножается на текущую скорость обучения.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/compat/v1/tpu/experimental/AdagradParameters