Spec-Zone.ru › TensorFlow 1.15

tf.train.AdadeltaOptimizer

Оптимизатор, реализующий алгоритм Adadelta.

Наследуется от: Optimizer

Просмотр псевдонимов

Совместимые псевдонимы для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.train.AdadeltaOptimizer

tf.train.AdadeltaOptimizer(
    learning_rate=0.001, rho=0.95, epsilon=1e-08, use_locking=False, name='Adadelta'
)

См. М. Д. Зейлер (pdf)

Аргументы
learning_rate Значение типа `Tensor` или с плавающей точкой. Скорость обучения. Для точного соответствия форме в оригинальной статье используйте 1.0.
rho Значение типа `Tensor` или с плавающей точкой. Скорость затухания.
epsilon Значение типа `Tensor` или с плавающей точкой. Постоянная ε, используемая для лучшей обусловленности обновления градиента.
use_locking Если True, использовать блокировки для операций обновления.
name Необязательное префиксное имя для операций, созданных при применении градиентов. По умолчанию "Adadelta".

Методы

apply_gradients

Просмотреть исходный код

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применить градиенты к переменным.

Это вторая часть minimize(). Она возвращает операцию, применяющую градиенты.

Аргументы
grads_and_vars Список пар (градиент, переменная), возвращаемых методом compute_gradients().
global_step Необязательный счетчик, который увеличивается на 1 после обновления переменных.
name Необязательное имя возвращаемой операции. По умолчанию, имя, переданное конструктору Optimizer.
Возвращает
Операция, применяющая указанные градиенты. Если global_step не None, эта операция также увеличивает global_step.
Возможные исключения
TypeError Если список grads_and_vars имеет неправильную структуру.
ValueError Если ни у одной из переменных нет градиента.
RuntimeError Если следует использовать _distributed_apply() вместо этого.

compute_gradients

Просмотреть исходный код

compute_gradients(
    loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
    colocate_gradients_with_ops=False, grad_loss=None
)

Вычислить градиенты loss для переменных в var_list.

Это первая часть minimize(). Она возвращает список пар (градиент, переменная), где "градиент" — градиент для "переменной". Обратите внимание, что "градиент" может быть `None`, `Tensor` или `IndexedSlices` в случае отсутствия градиента для данной переменной.

Аргументы
loss `Tensor`, содержащий значение для минимизации, или вызываемый объект без аргументов, возвращающий это значение. При включённом режиме eager execution, должен быть вызываемым объектом.
var_list Необязательный список или кортеж переменных tf.Variable, которые нужно обновить для минимизации loss. По умолчанию используется список переменных, собранных в графе по ключу GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть `None`, `tf.gradients.GATE_OP`, `tf.gradients.GATE_GRAPH`.
aggregation_method Указывает метод объединения градиентных членов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попытаться расположить градиенты совместно с соответствующей операцией.
grad_loss Необязательно. `Tensor`, содержащий вычисленный градиент для loss.
Возвращает
Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть `None`.
Возможные исключения
TypeError Если var_list содержит что-либо кроме объектов Variable .
ValueError Если некоторые аргументы неверны.
RuntimeError Если вызывается с включённым режимом eager execution, и loss не является вызываемым объектом.

Совместимость с режимом eager execution

При включённом режиме eager execution, gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

get_name

Просмотреть исходный код

get_name()

get_slot

Просмотреть исходный код

get_slot(
    var, name
)

Возвращает слот с именем name созданный для var оптимизатором.

Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим объектам Variable, если в какой-то момент они вам потребуются.

Используйте get_slot_names() для получения списка имён слотов, созданных Optimizer.

Аргументы
var Переменная, переданная в minimize() или apply_gradients().
name Строка.
Возвращаемое значение
Объект Variable для слота, если он был создан, None в противном случае.

get_slot_names

Просмотреть исходный код

get_slot_names()

Возвращает список имён слотов, созданных Optimizer.

См. get_slot().

Возвращаемое значение
Список строк.

minimize

Просмотреть исходный код

minimize(
    loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
    aggregation_method=None, colocate_gradients_with_ops=False, name=None,
    grad_loss=None
)

Добавляет операции для минимизации loss путём обновления var_list.

Этот метод просто объединяет вызовы compute_gradients() и apply_gradients(). Если вы хотите обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Аргументы
loss Объект Tensor, содержащий значение, которое нужно минимизировать.
global_step Необязательный объект Variable, который будет инкрементирован на единицу после обновления переменных.
var_list Необязательный список или кортеж объектов Variable для обновления, чтобы минимизировать loss. По умолчанию, это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод объединения градиентов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, попробуйте расположить градиенты вместе с соответствующей операцией.
name Необязательное имя для возвращаемой операции.
grad_loss Необязательно. Объект Tensor, содержащий градиент, вычисленный для loss.
Возвращаемое значение
Операция, которая обновляет переменные в var_list. Если global_step не был None, эта операция также инкрементирует global_step.
Исключения
ValueError Если некоторые из переменных не являются объектами Variable.

Совместимость с Eager

При включенном режиме немедленного выполнения loss должно быть функцией Python без аргументов, вычисляющей значение, которое требуется минимизировать. Минимизация (и вычисление градиента) выполняется относительно элементов var_list , если оно не равно None, иначе относительно любых обучаемых переменных, созданных во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включенном режиме немедленного выполнения.

variables

Просмотреть исходный код

variables()

Список переменных, кодирующих текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущей графике по умолчанию.

class="responsive fixed orange">
Возвращаемое значение
Список переменных.

Переменные класса

  • GATE_GRAPH = 2
  • GATE_NONE = 0
  • GATE_OP = 1

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/train/AdadeltaOptimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API