Spec-Zone.ru › TensorFlow 2.9

tf.compat.v1.VariableAggregation

Указывает, как будет агрегироваться распределённая переменная.

tf.distribute.Strategy распределяет модель, создавая несколько копий (называемых «репликами»), работающих с данными параллельно на различных элементах входной выборки. При выполнении какой-либо операции обновления переменных, например var.assign_add(x), в модели, необходимо определить, как объединить различные значения x, вычисленные в разных репликах.

  • NONE: Это значение по умолчанию, которое выдаёт ошибку, если вы используете операцию обновления переменных с несколькими репликами.
  • SUM: Сложить обновления по репликам.
  • MEAN: Взять среднее арифметическое (среднее) обновлений по репликам.
  • ONLY_FIRST_REPLICA: Используется, когда каждая реплика выполняет одно и то же обновление, но мы хотим выполнить обновление только один раз. Например, для счётчика глобального шага.
  • ONLY_FIRST_TOWER: Устаревший псевдоним для ONLY_FIRST_REPLICA.
Переменные класса
MEAN <VariableAggregation.MEAN: 2>
NONE <VariableAggregation.NONE: 0>
ONLY_FIRST_REPLICA <VariableAggregation.ONLY_FIRST_REPLICA: 3>
SUM <VariableAggregation.SUM: 1>

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/compat/v1/VariableAggregation

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API