tf.compat.v1.VariableAggregation
Указывает, как будет агрегироваться распределённая переменная.
tf.distribute.Strategy распределяет модель, создавая несколько копий (называемых «репликами»), которые действуют как параллельно обрабатывающие данные на разных элементах входной партии. При выполнении операции обновления переменной, например, var.assign_add(x), в модели, нам необходимо определить, как объединить различные значения для x, вычисленные в различных репликах.
-
NONE: Это значение по умолчанию, которое приводит к ошибке, если вы используете операцию обновления переменной с несколькими репликами. -
SUM: Сложить обновления по всем репликам. -
MEAN: Взять арифметическое среднее («среднее») обновлений по всем репликам. -
ONLY_FIRST_REPLICA: Это используется, когда каждая реплика выполняет одно и то же обновление, но мы хотим выполнить обновление только один раз. Используется, например, для счётчика глобального шага. -
ONLY_FIRST_TOWER: Устаревшее алиас дляONLY_FIRST_REPLICA.
Переменные класса
-
MEAN -
NONE -
ONLY_FIRST_REPLICA -
SUM
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/compat/v1/VariableAggregation