Spec-Zone.ru › TensorFlow 1.15

tf.train.ProximalAdagradOptimizer

Оптимизатор, реализующий алгоритм Proximal Adagrad.

Наследуется от: Optimizer

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.train.ProximalAdagradOptimizer

tf.train.ProximalAdagradOptimizer(
    learning_rate, initial_accumulator_value=0.1, l1_regularization_strength=0.0,
    l2_regularization_strength=0.0, use_locking=False, name='ProximalAdagrad'
)

См. эту статью.

Аргументы
learning_rate A Tensor или значение с плавающей точкой. Скорость обучения.
initial_accumulator_value Значение с плавающей точкой. Начальное значение для аккумуляторов, должно быть положительным.
l1_regularization_strength Значение с плавающей точкой, должно быть больше или равно нулю.
l2_regularization_strength Значение с плавающей точкой, должно быть больше или равно нулю.
use_locking Если True использовать блокировки для операций обновления.
name Необязательное префиксное имя для операций, созданных при применении градиентов. По умолчанию "Adagrad".
Исключения
ValueError Если initial_accumulator_value неверно.

Методы

apply_gradients

Просмотреть исходный код

apply_gradients(
    grads_and_vars, global_step=None, name=None
)

Применить градиенты к переменным.

Это вторая часть minimize(). Возвращает Operation для применения градиентов.

Аргументы
grads_and_vars Список пар (градиент, переменная), как возвращается compute_gradients().
global_step Необязательный Variable для инкремента на единицу после обновления переменных.
name Необязательное имя возвращаемой операции. По умолчанию имя, переданное конструктору Optimizer.
Возвращаемое значение
Operation для применения указанных градиентов. Если global_step не было None, эта операция также увеличивает global_step.
Исключения
TypeError Если grads_and_vars имеет неправильный формат.
ValueError Если ни у одной из переменных нет градиента.
RuntimeError Если следует использовать _distributed_apply() вместо этого.

compute_gradients

Просмотреть исходный код

compute_gradients(
    loss, var_list=None, gate_gradients=GATE_OP, aggregation_method=None,
    colocate_gradients_with_ops=False, grad_loss=None
)

Вычисление градиентов loss для переменных в var_list.

Это первая часть minimize(). Возвращает список пар (градиент, переменная), где «градиент» — градиент для «переменной». Обратите внимание, что «градиент» может быть Tensor, IndexedSlices, или None если для данной переменной нет градиента.

Аргументы
loss Tensor, содержащий значение для минимизации, или вызываемый без аргументов, возвращающий значение для минимизации. При включенном режиме выполнения Eager необходимо использовать вызываемый объект.
var_list Необязательный список или кортеж tf.Variable для обновления с целью минимизации loss. По умолчанию — список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентных членов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, то пытаться разместить градиенты вместе с соответствующей операцией.
grad_loss Необязательно. Tensor содержащий градиент, вычисленный для loss.
Возвращаемое значение
Список пар (градиент, переменная). Переменная всегда присутствует, но градиент может быть None.
Исключения
TypeError Если var_list содержит что-либо помимо объектов Variable .
ValueError Если некоторые аргументы неверны.
RuntimeError Если вызвана с включенным режимом Eager и loss не является вызываемым объектом.

Совместимость с Eager

При включенном режиме Eager выполнения, gate_gradients, aggregation_method, и colocate_gradients_with_ops игнорируются.

get_name

Просмотреть исходный код

get_name()

get_slot

Просмотреть исходный код

get_slot(
    var, name
)

Возвращает слот с именем name, созданный для var оптимизатором.

Некоторые подклассы Optimizer используют дополнительные переменные. Например, Momentum и Adagrad используют переменные для накопления обновлений. Этот метод предоставляет доступ к этим Variable объектам, если они вам по какой-то причине нужны.

Используйте get_slot_names() для получения списка имен слотов, созданных Optimizer.

Аргументы
var Переменная, переданная в minimize() или apply_gradients().
name Строка.
Возвращаемое значение
Variable для слота, если он был создан, None в противном случае.

get_slot_names

Просмотреть исходный код

get_slot_names()

Возвращает список имен слотов, созданных Optimizer.

См. get_slot().

Возвращаемое значение
Список строк.

minimize

Просмотреть исходный код

minimize(
    loss, global_step=None, var_list=None, gate_gradients=GATE_OP,
    aggregation_method=None, colocate_gradients_with_ops=False, name=None,
    grad_loss=None
)

Добавить операции для минимизации loss путем обновления var_list.

Этот метод просто объединяет вызовы compute_gradients() и apply_gradients(). Если необходимо обработать градиент до его применения, вызовите compute_gradients() и apply_gradients() явно вместо использования этой функции.

Аргументы
loss Tensor, содержащий значение для минимизации.
global_step Необязательный Variable для инкремента на единицу после обновления переменных.
var_list Необязательный список или кортеж объектов Variable для обновления с целью минимизации loss. По умолчанию — список переменных, собранных в графе под ключом GraphKeys.TRAINABLE_VARIABLES.
gate_gradients Способ управления вычислением градиентов. Может быть GATE_NONE, GATE_OP, или GATE_GRAPH.
aggregation_method Указывает метод комбинирования градиентных членов. Допустимые значения определены в классе AggregationMethod.
colocate_gradients_with_ops Если True, то пытаться разместить градиенты вместе с соответствующей операцией.
name Необязательное имя для возвращаемой операции.
grad_loss Необязательно. Tensor содержащий градиент, вычисленный для loss.
Возвращаемое значение
Операция, обновляющая переменные в var_list. Если global_step не None, эта операция также увеличивает global_step.
Исключения
ValueError Если некоторые из переменных не являются объектами Variable .

Совместимость с Eager

При включенном режиме немедленного выполнения loss должно быть функцией Python, которая не принимает аргументов и вычисляет значение, которое нужно минимизировать. Минимизация (и вычисление градиента) выполняется относительно элементов var_list , если оно не равно None, иначе относительно любых обучаемых переменных, созданных во время выполнения функции loss. gate_gradients, aggregation_method, colocate_gradients_with_ops и grad_loss игнорируются при включенном режиме немедленного выполнения.

variables

Просмотреть исходный код

variables()

Список переменных, которые кодируют текущее состояние Optimizer.

Включает переменные слотов и дополнительные глобальные переменные, созданные оптимизатором в текущей стандартной графе.

class="responsive fixed orange">
Возвращаемое значение
Список переменных.

Переменные класса

  • GATE_GRAPH = 2
  • GATE_NONE = 0
  • GATE_OP = 1

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/train/ProximalAdagradOptimizer

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API