tf.train.AdadeltaOptimizer
Оптимизатор, реализующий алгоритм Adadelta.
Наследуется от: Optimizer
tf.train.AdadeltaOptimizer(
learning_rate=0.001, rho=0.95, epsilon=1e-08, use_locking=False, name='Adadelta'
)
См. М. Д. Зейлер (pdf)
| Аргументы | |
|---|---|
learning_rate | Значение типа `Tensor` или с плавающей точкой. Скорость обучения. Для точного соответствия форме в оригинальной статье используйте 1.0. |
rho | Значение типа `Tensor` или с плавающей точкой. Скорость затухания. |
epsilon | Значение типа `Tensor` или с плавающей точкой. Постоянная ε, используемая для лучшей обусловленности обновления градиента. |
use_locking | Если True, использовать блокировки для операций обновления. |
name | Необязательное префиксное имя для операций, созданных при применении градиентов. По умолчанию "Adadelta". |
Методы
apply_gradients
apply_gradients(
grads_and_vars, global_step=None, name=None
)
Применить градиенты к переменным.
Это вторая часть minimize(). Она возвращает операцию, применяющую градиенты.
| Аргументы | |
|---|---|
grads_and_vars | Список пар (градиент, переменная), возвращаемых методом compute_gradients(). |
global_step | Необязательный счетчик, который увеличивается на 1 после обновления переменных. |
name | Необязательное имя возвращаемой операции. По умолчанию, имя, переданное конструктору Optimizer. |
| Возвращает | |
|---|---|
Операция, применяющая указанные градиенты. Если global_step не None, эта операция также увеличивает global_step. |
| Возможные исключения | |
|---|---|
TypeError | Если список grads_and_vars имеет неправильную структуру. |
ValueError | Если ни у одной из переменных нет градиента. |
RuntimeError | Если следует использовать _distributed_apply() вместо этого. |
compute_gradients
compute_gradients(
loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
colocate_gradients_with_ops=False, grad_loss=None
)
Вычислить градиенты loss для переменных в var_list.
Это первая часть minimize(). Она возвращает список пар (градиент, переменная), где "градиент" — градиент для "переменной". Обратите внимание, что "градиент" может быть `None`, `Tensor` или `IndexedSlices` в случае отсутствия градиента для данной переменной.
| Аргументы | |
|---|---|
loss | `Tensor`, содержащий значение для минимизации, или вызываемый объект без аргументов, возвращающий это значение. При включённом режиме eager execution, должен быть вызываемым объектом. |
var_list | Необязательный список или кортеж переменных tf.Variable, которые нужно обновить для минимизации loss. По умолчанию используется список переменных, собранных в графе по ключу GraphKeys.TRAINABLE_VARIABLES. |
gate_gradients | Способ управления вычислением градиентов. Может быть `None`, `tf.gradients.GATE_OP`, `tf.gradients.GATE_GRAPH`. |
aggregation_method | Указывает метод объединения градиентных членов. Допустимые значения определены в классе AggregationMethod. |
colocate_gradients_with_ops | Если True, попытаться расположить градиенты совместно с соответствующей операцией. |
grad_loss | Необязательно. `Tensor`, содержащий вычисленный градиент для loss. |
| Возвращает | |
|---|---|
| Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть `None`. |
| Возможные исключения | |
|---|---|
TypeError | Если var_list содержит что-либо кроме объектов Variable . |
ValueError | Если некоторые аргументы неверны. |
RuntimeError | Если вызывается с включённым режимом eager execution, и loss не является вызываемым объектом. |
Совместимость с режимом eager execution
При включённом режиме eager execution, gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.
get_name
get_name()
get_slot
get_slot(
var, name
)
Возвращает слот с именем name созданный для var оптимизатором.
Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим объектам Variable, если в какой-то момент они вам потребуются.
Используйте get_slot_names() для получения списка имён слотов, созданных Optimizer.
| Аргументы | |
|---|---|
var | Переменная, переданная в minimize() или apply_gradients(). |
name | Строка. |
| Возвращаемое значение | |
|---|---|
Объект Variable для слота, если он был создан, None в противном случае. |
get_slot_names
get_slot_names()
Возвращает список имён слотов, созданных Optimizer.
См. get_slot().
| Возвращаемое значение | |
|---|---|
| Список строк. |
minimize
minimize(
loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
aggregation_method=None, colocate_gradients_with_ops=False, name=None,
grad_loss=None
)
Добавляет операции для минимизации loss путём обновления var_list.
Этот метод просто объединяет вызовы compute_gradients() и apply_gradients(). Если вы хотите обработать градиент перед его применением, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.
| Аргументы | |
|---|---|
loss | Объект Tensor, содержащий значение, которое нужно минимизировать. |
global_step | Необязательный объект Variable, который будет инкрементирован на единицу после обновления переменных. |
var_list | Необязательный список или кортеж объектов Variable для обновления, чтобы минимизировать loss. По умолчанию, это список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES. |
gate_gradients | Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH. |
aggregation_method | Указывает метод объединения градиентов. Допустимые значения определены в классе AggregationMethod. |
colocate_gradients_with_ops | Если True, попробуйте расположить градиенты вместе с соответствующей операцией. |
name | Необязательное имя для возвращаемой операции. |
grad_loss | Необязательно. Объект Tensor, содержащий градиент, вычисленный для loss. |
| Возвращаемое значение | |
|---|---|
Операция, которая обновляет переменные в var_list. Если global_step не был None, эта операция также инкрементирует global_step. |
| Исключения | |
|---|---|
ValueError | Если некоторые из переменных не являются объектами Variable. |
Совместимость с Eager
При включенном режиме немедленного выполнения loss должно быть функцией Python без аргументов, вычисляющей значение, которое требуется минимизировать. Минимизация (и вычисление градиента) выполняется относительно элементов var_list , если оно не равно None, иначе относительно любых обучаемых переменных, созданных во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включенном режиме немедленного выполнения.
variables
variables()
Список переменных, кодирующих текущее состояние Optimizer.
Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущей графике по умолчанию.
| Возвращаемое значение | |
|---|---|
| Список переменных. |
Переменные класса
-
GATE_GRAPH = 2 -
GATE_NONE = 0 -
GATE_OP = 1
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/train/AdadeltaOptimizer