Spec-Zone.ru › TensorFlow 2.4

tf.compat.v1.train.GradientDescentOptimizer

Оптимизатор, реализующий алгоритм градиентного спуска.

Унаследован от: Optimizer

tf.compat.v1.train.GradientDescentOptimizer(
    learning_rate, use_locking=False, name='GradientDescent'
)
Аргументы
learning_rate A Tensor или число с плавающей точкой. Значение скорости обучения.
use_locking Если True, используйте блокировки для операций обновления.
name Необязательное префиксное имя для операций, созданных при применении градиентов. По умолчанию "GradientDescent".

Методы

apply_gradients

Просмотр исходного кода

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применить градиенты к переменным.

Это вторая часть minimize(). Она возвращает Operation, который применяет градиенты.

Аргументы
grads_and_vars Список пар (градиент, переменная), возвращаемых compute_gradients().
global_step Необязательное Variable, увеличиваемое на единицу после обновления переменных.
name Необязательное имя возвращаемой операции. По умолчанию имя, переданное в конструктор Optimizer.
Возвращаемые значения
Operation для применения указанных градиентов. Если global_step не было None, эта операция также увеличивает global_step.
Исключения
TypeError Если grads_and_vars имеет неправильный формат.
ValueError Если ни у одной из переменных нет градиента.
RuntimeError Если следует использовать _distributed_apply() вместо этого.

compute_gradients

Просмотр исходного кода

compute_gradients(
    loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
    colocate_gradients_with_ops=False, grad_loss=None
)

Вычислить градиенты loss для переменных в var_list.

Это первая часть minimize(). Она возвращает список пар (градиент, переменная), где "градиент" — градиент для "переменной". Обратите внимание, что "градиент" может быть Tensor, IndexedSlices, или None если для данной переменной нет градиента.

Аргументы
loss A Tensor, содержащий значение для минимизации, или вызываемая функция без аргументов, возвращающая значение для минимизации. При включённом режиме выполнения eager она должна быть вызываемой функцией.
var_list Необязательный список или кортеж tf.Variable для обновления, чтобы минимизировать loss. По умолчанию — список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод объединения градиентов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, пытаться расположить градиенты совместно с соответствующей операцией.
grad_loss Необязательно. A Tensor , содержащий вычисленный градиент для loss.
Возвращаемые значения
Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть None.
Исключения
TypeError Если var_list содержит что-либо кроме объектов Variable.
ValueError Если некоторые аргументы неверны.
RuntimeError Если вызвано с включённым режимом eager выполнения, и loss не является вызываемой функцией.

Совместимость с eager выполнением

При включённом eager выполнении gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

get_name

Просмотр исходного кода

get_name()

get_slot

Просмотр исходного кода

get_slot(
    var, name
)

Возвращает слот с именем name, созданный для var оптимизатором.

Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим Variable объектам, если они вам по какой-либо причине нужны.

Используйте get_slot_names() для получения списка имён слотов, созданных Optimizer.

Аргументы
var Переменная, переданная в minimize() или apply_gradients().
name Строка.
Возвращаемые значения
Variable для слота, если он был создан, None в противном случае.

get_slot_names

Просмотр исходного кода

get_slot_names()

Возвращает список имён слотов, созданных Optimizer.

См. get_slot().

Возвращаемые значения
Список строк.

minimize

Просмотр исходного кода

minimize(
    loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
    aggregation_method=None, colocate_gradients_with_ops=False, name=None,
    grad_loss=None
)

Добавить операции для минимизации loss путём обновления var_list.

Этот метод просто объединяет вызовы compute_gradients() и apply_gradients(). Если вы хотите обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Аргументы
loss Tensor содержащий значение для минимизации.
global_step Необязательное Variable, увеличиваемое на единицу после обновления переменных.
var_list Необязательный список или кортеж объектов Variable для обновления, чтобы минимизировать loss. По умолчанию — список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод объединения градиентов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, пытаться расположить градиенты совместно с соответствующей операцией.
name Необязательное имя возвращаемой операции.
grad_loss Необязательно. A Tensor , содержащий вычисленный градиент для loss.
Возвращаемые значения
Операция обновления переменных в var_list. Если global_step не было None, эта операция также увеличивает global_step.
Исключения
ValueError Если некоторые переменные не являются объектами Variable.

Совместимость с eager выполнением

При включённом eager выполнении loss должна быть Python-функцией без аргументов, вычисляющей значение для минимизации. Минимизация (и вычисление градиента) выполняется относительно элементов var_list если оно не None, иначе относительно всех обучаемых переменных, созданных во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включённом eager выполнении.

variables

Просмотр исходного кода

variables()

Список переменных, которые кодируют текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущем графе по умолчанию.

Возвращаемые значения
Список переменных.
Переменные класса
GATE_GRAPH 2
GATE_NONE 0
GATE_OP 1

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/train/GradientDescentOptimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API