tf.compat.v2.VariableAggregation

Указывает, как будет агрегироваться распределённая переменная.

tf.distribute.Strategy распределяет модель, создавая несколько копий (называемых «репликами»), действующих параллельно по данным на различных элементах входной партии. При выполнении некоторой операции обновления переменной, скажем var.assign_add(x), в модели, необходимо определить, как объединить различные значения для x, вычисленные в различных репликах.

• NONE: Это значение по умолчанию, вызывающее ошибку при использовании операции обновления переменной с несколькими репликами.
• SUM: Сложить обновления по репликам.
• MEAN: Взять арифметическое среднее («среднее значение») обновлений по репликам.
• ONLY_FIRST_REPLICA: Это необходимо, когда каждая реплика выполняет одно и то же обновление, но мы хотим выполнить обновление только один раз. Используется, например, для счётчика глобального шага.

Переменные класса

• MEAN
• NONE
• ONLY_FIRST_REPLICA
• SUM