Spec-Zone.ru › TensorFlow 2.3

tf.compat.v1.train.GradientDescentOptimizer

Оптимизатор, реализующий алгоритм градиентного спуска.

Наследуется от: Optimizer

tf.compat.v1.train.GradientDescentOptimizer(
    learning_rate, use_locking=False, name='GradientDescent'
)
Аргументы
learning_rate Tensor или число с плавающей точкой. Скорость обучения.
use_locking Если True, использовать блокировки для операций обновления.
name Необязательное префиксное имя для операций, созданных при применении градиентов. По умолчанию "GradientDescent".

Методы

apply_gradients

Просмотреть исходный код

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применить градиенты к переменным.

Это вторая часть minimize(). Возвращает операцию, применяющую градиенты.

Аргументы
grads_and_vars Список пар (градиент, переменная), возвращаемых функцией compute_gradients().
global_step Необязательный счётчик, который увеличивается на единицу после обновления переменных.
name Необязательное имя возвращаемой операции. По умолчанию имя, переданное конструктору Optimizer.
Возвращает
Операция, применяющая указанные градиенты. Если счётчик global_step не был None, эта операция также увеличивает global_step.
Исключения
TypeError Если список пар (градиент, переменная) имеет неправильный формат.
ValueError Если ни у одной из переменных нет градиента.
RuntimeError Если следует использовать _distributed_apply() вместо этого.

compute_gradients

Просмотреть исходный код

compute_gradients(
    loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
    colocate_gradients_with_ops=False, grad_loss=None
)

Вычислить градиенты loss для переменных в var_list.

Это первая часть minimize(). Возвращает список пар (градиент, переменная), где "градиент" — градиент для "переменной". Обратите внимание, что "градиент" может быть Tensor, IndexedSlices, или None если для данной переменной нет градиента.

Аргументы
loss Tensor, содержащий значение для минимизации, или вызываемая функция без аргументов, которая возвращает значение для минимизации. При включённом режиме eager execution должна быть вызываемой функцией.
var_list Необязательный список или кортеж переменных tf.Variable для обновления, чтобы минимизировать loss. По умолчанию список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентных слагаемых. Действительные значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попытаться разместить градиенты совместно с соответствующей операцией.
grad_loss Необязательно. Tensor, содержащий градиент, вычисленный для loss.
Возвращает
Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть None.
Исключения
TypeError Если var_list содержит что-то кроме объектов Variable.
ValueError Если некоторые аргументы неверны.
RuntimeError Если вызов выполнен с включённым eager execution и loss не является вызываемой функцией.

Совместимость с Eager execution

При включённом eager execution gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

get_name

Просмотреть исходный код

get_name()

get_slot

Просмотреть исходный код

get_slot(
    var, name
)

Возвращает слот с именем name, созданный для var оптимизатором.

Некоторые подклассы оптимизаторов используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод позволяет получить доступ к этим объектам переменных, если они вам нужны.

Используйте get_slot_names() для получения списка имён слотов, созданных оптимизатором Optimizer.

Аргументы
var Переменная, переданная в minimize() или apply_gradients().
name Строка.
Возвращает
Переменная для слота, если она была создана, None в противном случае.

get_slot_names

Просмотреть исходный код

get_slot_names()

Возвращает список имён слотов, созданных оптимизатором Optimizer.

См. get_slot().

Возвращает
Список строк.

minimize

Просмотреть исходный код

minimize(
    loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
    aggregation_method=None, colocate_gradients_with_ops=False, name=None,
    grad_loss=None
)

Добавить операции для минимизации loss путём обновления var_list.

Этот метод просто объединяет вызовы compute_gradients() и apply_gradients(). Если нужно обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Аргументы
loss Tensor, содержащий значение для минимизации.
global_step Необязательный счётчик, который увеличивается на единицу после обновления переменных.
var_list Необязательный список или кортеж объектов переменных для обновления, чтобы минимизировать loss. По умолчанию список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентных слагаемых. Действительные значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попытаться разместить градиенты совместно с соответствующей операцией.
name Необязательное имя для возвращаемой операции.
grad_loss Необязательно. Tensor, содержащий градиент, вычисленный для loss.
Возвращает
Операция, обновляющая переменные в var_list. Если global_step не был None, эта операция также увеличивает global_step.
Исключения
ValueError Если некоторые из переменных не являются объектами Variable.

Совместимость с Eager execution

При включённом eager execution loss должна быть Python-функцией без аргументов, вычисляющей значение для минимизации. Минимизация (и вычисление градиента) выполняется по отношению к элементам var_list если оно не равно None, иначе по отношению к любым обучаемым переменным, созданным во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включённом eager execution.

variables

Просмотреть исходный код

variables()

Список переменных, которые кодируют текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущем графе по умолчанию.

Возвращает
Список переменных.

Переменные класса

  • GATE_GRAPH = 2
  • GATE_NONE = 0
  • GATE_OP = 1

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/compat/v1/train/GradientDescentOptimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API