Spec-Zone.ru › TensorFlow 1.15

tf.train.GradientDescentOptimizer

Оптимизатор, реализующий алгоритм градиентного спуска.

Наследуется от: Optimizer

Просмотр псевдонимов

Псевдонимы для миграции

Для получения более подробной информации см. руководство по миграции.

tf.compat.v1.train.GradientDescentOptimizer

tf.train.GradientDescentOptimizer(
    learning_rate, use_locking=False, name='GradientDescent'
)
Аргументы
learning_rate Тензор или значение с плавающей точкой. Скорость обучения.
use_locking Если True, использовать блокировки для операций обновления.
name Необязательный префикс имени для операций, созданных при применении градиентов. По умолчанию "GradientDescent".

Методы

apply_gradients

Просмотреть исходный код

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применить градиенты к переменным.

Это вторая часть minimize(). Она возвращает операцию, которая применяет градиенты.

Аргументы
grads_and_vars Список пар (градиент, переменная), возвращённых методом compute_gradients().
global_step Необязательный счётчик, который увеличивается на единицу после обновления переменных.
name Необязательное имя возвращаемой операции. По умолчанию имя, переданное конструктору Optimizer.
Возвращаемые значения
Операция, применяющая заданные градиенты. Если счётчик global_step не равен None, эта операция также увеличивает global_step.
Исключения
TypeError Если список пар (градиент, переменная) имеет неверный формат.
ValueError Если ни у одной из переменных нет градиента.
RuntimeError Если следует использовать _distributed_apply() вместо этого.

compute_gradients

Просмотреть исходный код

compute_gradients(
    loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
    colocate_gradients_with_ops=False, grad_loss=None
)

Вычисление градиентов loss для переменных в var_list.

Это первая часть minimize(). Она возвращает список пар (градиент, переменная), где "градиент" — градиент для "переменной". Обратите внимание, что "градиент" может быть Tensor, IndexedSlices, или None, если для данной переменной нет градиента.

Аргументы
loss Тензор, содержащий значение для минимизации, или вызываемый объект, принимающий на вход ничего, а возвращающий значение для минимизации. При включённом режиме eager execution он должен быть вызываемым объектом.
var_list Необязательный список или кортеж tf.Variable для обновления, чтобы минимизировать loss. По умолчанию список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Как управлять вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попытаться разместить градиенты с соответствующей операцией.
grad_loss Необязательно. Объект Tensor, содержащий градиент, вычисленный для loss.
Возвращаемые значения
Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть None.
Исключения
TypeError Если var_list содержит что-то другое, кроме объектов Variable.
ValueError Если некоторые аргументы некорректны.
RuntimeError Если вызвана с включённым eager execution и loss не является вызываемым объектом.

Совместимость с eager execution

При включённом режиме eager execution аргументы gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

get_name

Просмотреть исходный код

get_name()

get_slot

Просмотреть исходный код

get_slot(
    var, name
)

Возвращает слот с именем name, созданный для var оптимизатором.

Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим объектам Variable в случае необходимости.

Используйте get_slot_names() для получения списка имён слотов, созданных оптимизатором Optimizer.

Аргументы
var Переменная, переданная в minimize() или apply_gradients() .
name Строка.
Возвращаемые значения
Переменная Variable для слота, если она была создана, None в противном случае.

get_slot_names

Просмотреть исходный код

get_slot_names()

Возвращает список имён слотов, созданных оптимизатором Optimizer.

См. get_slot().

Возвращаемые значения
Список строк.

minimize

Просмотреть исходный код

minimize(
    loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
    aggregation_method=None, colocate_gradients_with_ops=False, name=None,
    grad_loss=None
)

Добавить операции для минимизации loss путём обновления var_list.

Этот метод просто комбинирует вызовы compute_gradients() и apply_gradients(). Если необходимо обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Аргументы
loss Объект Tensor, содержащий значение для минимизации.
global_step Необязательный счётчик, который увеличивается на единицу после обновления переменных.
var_list Необязательный список или кортеж объектов Variable для обновления, чтобы минимизировать loss. По умолчанию список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Как управлять вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попытаться разместить градиенты с соответствующей операцией.
name Необязательное имя возвращаемой операции.
grad_loss Необязательно. Объект Tensor, содержащий градиент, вычисленный для loss.
Возвращаемые значения
Операция, обновляющая переменные в var_list. Если global_step не был None, эта операция также увеличивает global_step.
Исключения
ValueError Если некоторые из переменных не являются объектами Variable.

Совместимость с eager execution

При включённом режиме eager execution loss должен быть функцией Python, которая не принимает аргументов и вычисляет значение для минимизации. Минимизация (и вычисление градиента) выполняется относительно элементов var_list если оно не равно None, в противном случае относительно любых обучаемых переменных, созданных во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включённом eager execution.

variables

Просмотреть исходный код

variables()

Список переменных, которые кодируют текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущей по умолчанию графе.

class="responsive fixed orange">
Возвращает
Список переменных.

Переменные класса

  • GATE_GRAPH = 2
  • GATE_NONE = 0
  • GATE_OP = 1

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/train/GradientDescentOptimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API