Spec-Zone.ru › TensorFlow 2.4

tf.compat.v1.tpu.experimental.StochasticGradientDescentParameters

Параметры оптимизации стохастического градиентного спуска для TPU встраиваемых данных.

tf.compat.v1.tpu.experimental.StochasticGradientDescentParameters(
    learning_rate: float,
    clip_weight_min: Optional[float] = None,
    clip_weight_max: Optional[float] = None,
    weight_decay_factor: Optional[float] = None,
    multiply_weight_decay_factor_by_learning_rate: Optional[bool] = None,
    clip_gradient_min: Optional[float] = None,
    clip_gradient_max: Optional[float] = None
)

Передайте это в tf.estimator.tpu.experimental.EmbeddingConfigSpec через аргумент optimization_parameters, чтобы установить оптимизатор и его параметры. Дополнительные сведения см. в документации tf.estimator.tpu.experimental.EmbeddingConfigSpec.

estimator = tf.estimator.tpu.TPUEstimator(
    ...
    embedding_config_spec=tf.estimator.tpu.experimental.EmbeddingConfigSpec(
        ...
        optimization_parameters=(
            tf.tpu.experimental.StochasticGradientDescentParameters(0.1))))
Аргументы
learning_rate число с плавающей точкой. Скорость обучения.
clip_weight_min минимальное значение для обрезки; None означает -бесконечность.
clip_weight_max максимальное значение для обрезки; None означает +бесконечность.
weight_decay_factor величина распада веса, который необходимо применить; None означает, что веса не распадаются.
multiply_weight_decay_factor_by_learning_rate если True, weight_decay_factor умножается на текущую скорость обучения.
clip_gradient_min минимальное значение для обрезки; None означает -бесконечность.
clip_gradient_max максимальное значение для обрезки; None означает +бесконечность.

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/tpu/experimental/StochasticGradientDescentParameters

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API