tf.compat.v1.tpu.experimental.FtrlParameters

Параметры оптимизации для Ftrl с TPU вложениями.

tf.compat.v1.tpu.experimental.FtrlParameters(
    learning_rate, learning_rate_power=-0.5, initial_accumulator_value=0.1,
    l1_regularization_strength=0.0, l2_regularization_strength=0.0,
    use_gradient_accumulation=True, clip_weight_min=None, clip_weight_max=None,
    weight_decay_factor=None, multiply_weight_decay_factor_by_learning_rate=None
)

Передайте это в tf.estimator.tpu.experimental.EmbeddingConfigSpec через аргумент optimization_parameters, чтобы задать оптимизатор и его параметры. Подробнее см. документацию по tf.estimator.tpu.experimental.EmbeddingConfigSpec.

estimator = tf.estimator.tpu.TPUEstimator(
    ...
    embedding_config_spec=tf.estimator.tpu.experimental.EmbeddingConfigSpec(
        ...
        optimization_parameters=tf.tpu.experimental.FtrlParameters(0.1),
        ...))

Аргументы
`learning_rate`	значение с плавающей запятой. Скорость обучения.
`learning_rate_power`	Значение с плавающей запятой, должно быть меньше или равно нулю. Управляет тем, как скорость обучения уменьшается во время обучения. Используйте ноль для фиксированной скорости обучения. См. раздел 3.1 в статье.
`initial_accumulator_value`	Начальное значение для аккумуляторов. Разрешены только нулевые или положительные значения.
`l1_regularization_strength`	Значение с плавающей запятой, должно быть больше или равно нулю.
`l2_regularization_strength`	Значение с плавающей запятой, должно быть больше или равно нулю.
`use_gradient_accumulation`	Установка этого значения в `False` делает вычисление градиентов вложений менее точным, но быстрее. Подробнее см. `optimization_parameters.proto`.
`clip_weight_min`	минимальное значение для обрезки; None означает -бесконечность.
`clip_weight_max`	максимальное значение для обрезки; None означает +бесконечность.
`weight_decay_factor`	величина применения распада веса; None означает, что веса не распадаются.
`multiply_weight_decay_factor_by_learning_rate`	если true, `weight_decay_factor` умножается на текущую скорость обучения.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/compat/v1/tpu/experimental/FtrlParameters