tf.compat.v1.train.Optimizer

Базовый класс для оптимизаторов.

tf.compat.v1.train.Optimizer(
    use_locking, name
)

tf.compat.v1.train.Optimizer может использоваться в режиме eager и tf.function, но это не рекомендуется. Пожалуйста, используйте подклассы tf.keras.optimizers.Optimizer вместо этого в TF2. Пожалуйста, обратитесь к основным циклам обучения или созданию циклов обучения с нуля для примеров.

Если ваш код TF1 содержит символ tf.compat.v1.train.Optimizer, используется ли он с tf.estimator.Estimator или без него, вы не можете просто заменить его соответствующим tf.keras.optimizers.Optimizer. Чтобы перейти на TF2, рекомендуется мигрировать весь тренировочный процесс, используемый с Estimator, на Keras Model.fit или пользовательские циклы обучения TF2.

Структурное отображение на родной TF2

До:

sgd_op = tf.compat.v1.train.GradientDescentOptimizer(3.0)
opt_op = sgd_op.minimize(cost, global_step, [var0, var1])
opt_op.run(session=session)

После:

sgd = tf.keras.optimizers.SGD(3.0)
sgd.minimize(cost_fn, [var0, var1])

Как сопоставить аргументы

Пример использования до и после

До:

g = tf.compat.v1.Graph()
with g.as_default():
  var0 = tf.compat.v1.Variable([1.0, 2.0])
  var1 = tf.compat.v1.Variable([3.0, 4.0])
  cost = 5 * var0 + 3 * var1
  global_step = tf.compat.v1.Variable(
      tf.compat.v1.zeros([], tf.compat.v1.int64), name='global_step')
  init_op = tf.compat.v1.initialize_all_variables()
  sgd_op = tf.compat.v1.train.GradientDescentOptimizer(3.0)
  opt_op = sgd_op.minimize(cost, global_step, [var0, var1])
session = tf.compat.v1.Session(graph=g)
session.run(init_op)
opt_op.run(session=session)
print(session.run(var0))
[-14. -13.]

После:

>>> var0 = tf.Variable([1.0, 2.0])
>>> var1 = tf.Variable([3.0, 4.0])
>>> cost_fn = lambda: 5 * var0 + 3 * var1
>>> sgd = tf.keras.optimizers.SGD(3.0)
>>> sgd.minimize(cost_fn, [var0, var1])
>>> print(var0.numpy())
[-14. -13.]

Описание

Этот класс определяет API для добавления операций для обучения модели. Вы никогда не используете этот класс напрямую, а вместо этого создаете один из его подклассов, таких как GradientDescentOptimizer, AdagradOptimizer, или MomentumOptimizer.

Использование

# Create an optimizer with the desired parameters.
opt = GradientDescentOptimizer(learning_rate=0.1)
# Add Ops to the graph to minimize a cost by updating a list of variables.
# "cost" is a Tensor, and the list of variables contains tf.Variable
# objects.
opt_op = opt.minimize(cost, var_list=<list of variables>)

В программе обучения вам нужно будет просто запустить возвращённую операцию.

# Execute opt_op to do one step of training:
opt_op.run()

Обработка градиентов перед их применением

Вызов minimize() обрабатывает вычисление градиентов и их применение к переменным. Если вы хотите обработать градиенты перед их применением, вы можете вместо этого использовать оптимизатор в три шага:

1. Вычислите градиенты с помощью compute_gradients().
2. Обработайте градиенты по своему желанию.
3. Примените обработанные градиенты с помощью apply_gradients().

Пример:

# Create an optimizer.
opt = GradientDescentOptimizer(learning_rate=0.1)

# Compute the gradients for a list of variables.
grads_and_vars = opt.compute_gradients(loss, <list of variables>)

# grads_and_vars is a list of tuples (gradient, variable).  Do whatever you
# need to the 'gradient' part, for example cap them, etc.
capped_grads_and_vars = [(MyCapper(gv[0]), gv[1]) for gv in grads_and_vars]

# Ask the optimizer to apply the capped gradients.
opt.apply_gradients(capped_grads_and_vars)

Управление градиентами

Как minimize(), так и compute_gradients() принимают аргумент gate_gradients, который контролирует степень параллелизма при применении градиентов.

Возможные значения: GATE_NONE, GATE_OP, и GATE_GRAPH.

GATE_NONE: Вычисление и применение градиентов параллельно. Это обеспечивает максимальную параллельность в выполнении, ценой некоторой невоспроизводимости результатов. Например, два градиента matmul зависят от входных значений: с помощью GATE_NONE один из градиентов может быть применён к одному из входов до вычисления другого градиента, что приводит к невоспроизводимым результатам.

GATE_OP: Для каждой операции убедитесь, что все градиенты вычислены до их использования. Это предотвращает гонки для операций, которые генерируют градиенты для нескольких входов, где градиенты зависят от входов.

GATE_GRAPH: Убедитесь, что все градиенты для всех переменных вычислены перед использованием любого из них. Это обеспечивает наименьшую параллельность, но может быть полезно, если вы хотите обработать все градиенты перед применением любого из них.

Слoты

Некоторые подклассы оптимизаторов, такие как MomentumOptimizer и AdagradOptimizer, выделяют и управляют дополнительными переменными, связанными с переменными для обучения. Они называются Слoтами. Слoты имеют имена, и вы можете запросить у оптимизатора имена используемых им слoтов. После получения имени слoта вы можете запросить у оптимизатора переменную, созданную для хранения значения слoта.

Это может быть полезно, если вы хотите вести журнал отладки алгоритма обучения, сообщать статистику о слoтах и т. д.

Методы

apply_gradients

Просмотреть исходный код

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применение градиентов к переменным.

Это вторая часть minimize(). Она возвращает Operation, который применяет градиенты.

@compatibility(TF2)

Как сопоставить аргументы

compute_gradients

Просмотреть исходный код

compute_gradients(
    loss,
    var_list=None,
    gate_gradients=GATE_OP,
    aggregation_method=None,
    colocate_gradients_with_ops=False,
    grad_loss=None
)

Вычисление градиентов loss для переменных в var_list.

tf.keras.optimizers.Optimizer в TF2 не предоставляет метод compute_gradients, и вам следует использовать tf.GradientTape для получения градиентов:

@tf.function
def train step(inputs):
  batch_data, labels = inputs
  with tf.GradientTape() as tape:
    predictions = model(batch_data, training=True)
    loss = tf.keras.losses.CategoricalCrossentropy(
        reduction=tf.keras.losses.Reduction.NONE)(labels, predictions)
  gradients = tape.gradient(loss, model.trainable_variables)
  optimizer.apply_gradients(zip(gradients, model.trainable_variables))

Args: loss: A Tensor, содержащий значение для минимизации, или вызываемый объект без аргументов, возвращающий значение для минимизации. В режиме eager выполнения должен быть вызываемым. var_list: Необязательный список или кортеж tf.Variable для обновления, чтобы минимизировать loss. По умолчанию используется список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. gate_gradients: Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH. aggregation_method: Указывает метод объединения градиентов. Допустимые значения определены в классе AggregationMethod. colocate_gradients_with_ops: Если True, попытайтесь расположить градиенты с соответствующей операцией. grad_loss: Необязательно. Tensor , содержащий градиент, вычисленный для loss.

Returns: Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть None.

Raises: TypeError: Если var_list содержит что-либо кроме Variable объектов. ValueError: Если некоторые аргументы недействительны. RuntimeError: Если вызван с включённым eager выполнением и loss не является вызываемым объектом.

@compatibility(eager) Когда eager выполнение включено, gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

Описание

Это первая часть minimize(). Она возвращает список пар (градиент, переменная), где "градиент" — это градиент для "переменной". Обратите внимание, что "градиент" может быть Tensor, IndexedSlices, или None, если для данной переменной нет градиента.

get_name

Просмотреть исходный код

get_name()

get_slot

Просмотреть исходный код

get_slot(
    var, name
)

Возвращает слот с именем name, созданный для var оптимизатором.

Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим объектам Variable в случае необходимости.

Используйте get_slot_names() для получения списка имён слотов, созданных Optimizer.

get_slot_names

Просмотреть исходный код

get_slot_names()

Возвращает список имён слотов, созданных Optimizer.

См. get_slot().

minimize

Просмотреть исходный код

minimize(
    loss,
    global_step=None,
    var_list=None,
    gate_gradients=GATE_OP,
    aggregation_method=None,
    colocate_gradients_with_ops=False,
    name=None,
    grad_loss=None
)

Добавляет операции для минимизации loss путём обновления var_list.

Этот метод просто комбинирует вызовы compute_gradients() и apply_gradients(). Если вы хотите обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Когда включено немедленное выполнение, loss должно быть Python-функцией без аргументов, которая вычисляет значение, подлежащее минимизации. Минимизация (и вычисление градиента) выполняется относительно элементов var_list если оно не равно None, иначе относительно всех обучаемых переменных, созданных во время выполнения функции loss . gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включенном немедленном выполнении.

variables

Просмотреть исходный код

variables()

Список переменных, кодирующих текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущем графике по умолчанию.