tf.compat.v1.VariableAggregation

Указывает, как будет агрегироваться распределённая переменная.

tf.distribute.Strategy распределяет модель, создавая несколько копий (называемых «репликами»), действующих параллельно с данными на разных элементах входной партии. При выполнении какой-либо операции обновления переменных, например, var.assign_add(x), в модели необходимо определить, как объединить различные значения для x, вычисленные в разных репликах.

• NONE: Это значение по умолчанию, вызывающее ошибку при использовании операции обновления переменной с несколькими репликами.
• SUM: Добавить обновления по всем репликам.
• MEAN: Взять арифметическое среднее («среднее значение») обновлений по всем репликам.
• ONLY_FIRST_REPLICA: Используется в случае, когда каждая реплика выполняет одно и то же обновление, но обновление должно быть выполнено только один раз. Используется, например, для счётчика глобального шага.
• ONLY_FIRST_TOWER: Устаревшее псевдоним для ONLY_FIRST_REPLICA.