tf.AggregationMethod

Класс, перечисляющий методы агрегирования, используемые для объединения градиентов.

Вычисление частных производных может потребовать агрегирования вкладов градиента. Этот класс перечисляет различные методы объединения градиентов в графе.

Следующие методы агрегирования являются частью стабильного API для агрегирования градиентов:

• ADD_N: Все члены градиента суммируются как часть одной операции с помощью операции «AddN» (см. tf.add_n). Этот метод имеет свойство, что все градиенты должны быть готовы и буферизованы отдельно в памяти перед любым агрегированием.
• DEFAULT: Метод агрегирования по умолчанию, выбранный системой.

Следующие методы агрегирования являются экспериментальными и могут не поддерживаться в будущих выпусках:

• EXPERIMENTAL_TREE: Градиенты суммируются парами с использованием операции «AddN». Этот метод суммирования градиентов может снизить производительность, но может улучшить использование памяти, так как градиенты могут быть освобождены раньше.

• EXPERIMENTAL_ACCUMULATE_N: Градиенты суммируются с использованием операции «AccumulateN» (см. tf.accumulate_n), которая накапливает общую сумму в одном буфере, используемом всеми потоками. Этот метод суммирования градиентов может привести к меньшему объёму используемой памяти и задержке, ценой увеличения загрузки процессора/графического процессора. Для градиентов типов, которые «AccumulateN» не поддерживает, этот метод суммирования возвращается к поведению EXPERIMENTAL_TREE

Переменные класса

• ADD_N = 0
• DEFAULT = 0
• EXPERIMENTAL_ACCUMULATE_N = 2
• EXPERIMENTAL_TREE = 1