Модуль: tf.contrib.opt

Модуль, содержащий оптимизационные процедуры.

Классы

class AGNCustomGetter: Класс custom_getter используется для:

class AGNOptimizer: Обёртка, реализующая алгоритм Accumulated GradientNormalization.

class AdaMaxOptimizer: Оптимизатор, реализующий алгоритм AdaMax.

class AdamGSOptimizer: Оптимизатор, реализующий алгоритм Adam.

class AdamWOptimizer: Оптимизатор, реализующий алгоритм Adam с распадом весов.

class AddSignOptimizer: Оптимизатор, реализующий обновление AddSign.

class DecoupledWeightDecayExtension: Этот класс позволяет расширить оптимизаторы с распадом весов.

class DropStaleGradientOptimizer: Обёрточный оптимизатор, проверяющий и отбрасывающий устаревшие градиенты.

class ElasticAverageCustomGetter: Класс custom_getter используется для:

class ElasticAverageOptimizer: Обёрточный оптимизатор, реализующий алгоритм Elastic Average SGD.

class ExternalOptimizerInterface: Базовый класс для интерфейсов с внешними алгоритмами оптимизации.

class GGTOptimizer: Оптимизатор, реализующий алгоритм GGT.

class LARSOptimizer: Масштабирование скорости адаптивной скорости на слое для обучения с большими партиями.

class LazyAdamGSOptimizer: Вариант оптимизатора Adam, который более эффективно обрабатывает разреженные обновления.

class LazyAdamOptimizer: Вариант оптимизатора Adam, который более эффективно обрабатывает разреженные обновления.

class ModelAverageCustomGetter: Класс custom_getter используется для.

class ModelAverageOptimizer: Обёрточный оптимизатор, реализующий алгоритм усреднения модели.

class MomentumWOptimizer: Оптимизатор, реализующий алгоритм Momentum с weight_decay.

class MovingAverageOptimizer: Оптимизатор, вычисляющий скользящее среднее переменных.

class MultitaskOptimizerWrapper: Обёртка оптимизатора, делающая все нулевые градиенты безопасными.

class NadamOptimizer: Оптимизатор, реализующий алгоритм Nadam.

class PowerSignOptimizer: Оптимизатор, реализующий обновление PowerSign.

class RegAdagradOptimizer: RegAdagrad: Adagrad с обновлениями, которые необязательно пропускают обновление слотов.

class ScipyOptimizerInterface: Обёртка, позволяющая scipy.optimize.minimize управлять tf.compat.v1.Session.

class ShampooOptimizer: Оптимизатор Shampoo.

class VariableClippingOptimizer: Обёрточный оптимизатор, обрезающий норму указанных переменных после обновления.

Функции

clip_gradients_by_global_norm(...): Обрезает градиенты многозадачной функции потерь по их глобальной норме.

extend_with_decoupled_weight_decay(...): Функция-фабрика, возвращающая класс оптимизатора с распадом весов.