tf.compat.v1.VariableAggregation
Указывает, как будет агрегироваться распределённая переменная.
tf.distribute.Strategy распределяет модель, создавая несколько копий (называемых «репликами»), работающих с данными параллельно на различных элементах входной выборки. При выполнении какой-либо операции обновления переменных, например var.assign_add(x), в модели, необходимо определить, как объединить различные значения x, вычисленные в разных репликах.
-
NONE: Это значение по умолчанию, которое выдаёт ошибку, если вы используете операцию обновления переменных с несколькими репликами. -
SUM: Сложить обновления по репликам. -
MEAN: Взять среднее арифметическое (среднее) обновлений по репликам. -
ONLY_FIRST_REPLICA: Используется, когда каждая реплика выполняет одно и то же обновление, но мы хотим выполнить обновление только один раз. Например, для счётчика глобального шага. -
ONLY_FIRST_TOWER: Устаревший псевдоним дляONLY_FIRST_REPLICA.
| Переменные класса | |
|---|---|
| MEAN | <VariableAggregation.MEAN: 2> |
| NONE | <VariableAggregation.NONE: 0> |
| ONLY_FIRST_REPLICA | <VariableAggregation.ONLY_FIRST_REPLICA: 3> |
| SUM | <VariableAggregation.SUM: 1> |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/compat/v1/VariableAggregation