PolynomialLR

class torch.optim.lr_scheduler.PolynomialLR(optimizer, total_iters=5, power=1.0, last_epoch=-1) [исходный код]

Уменьшает скорость обучения каждой группы параметров с помощью полиномиальной функции на протяжении заданного числа итераций total_iters.

Если last_epoch=-1, устанавливает начальную скорость обучения равной lr.

Параметры:

• optimizer (Optimizer) – Оборачиваемый оптимизатор.
• total_iters (int) – Количество шагов, за которое планировщик уменьшает скорость обучения. По умолчанию: 5.
• power (float) – Степень полинома. По умолчанию: 1.0.

Пример

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.0490   if epoch == 0
>>> # lr = 0.0481   if epoch == 1
>>> # lr = 0.0472   if epoch == 2
>>> # ...
>>> # lr = 0.0      if epoch >= 50
>>> scheduler = PolynomialLR(optimizer, total_iters=50, power=0.9)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr() [исходный код]

Получить последние значения скорости обучения, вычисленные этим планировщиком.

Возвращает:

list значений скорости обучения с элементами для каждой param_groups оптимизатора, имеющими те же типы, что и их group["lr"]и.

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Возвращаемые Tensor являются копиями и никогда не ссылаются на group["lr"] оптимизатора.

get_lr() [исходный код]

Вычислить следующую скорость обучения для каждой param_groups оптимизатора.

Масштабирует group["lr"] в param_groups оптимизатора так, чтобы скорости обучения соответствовали формуле

$$\texttt{base\_lr} \cdot \left(1 - \frac{\texttt{last\_epoch}} {\texttt{total\_iters}} \right)^\texttt{power}$$

Возвращает текущие значения скорости обучения без изменений после достижения total_iters.

Возвращает:

list значений скорости обучения для каждой param_groups оптимизатора с теми же типами, что и их текущие group["lr"]и.

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Чтобы просмотреть последнее значение скорости обучения, используйте вместо этого get_last_lr().

Примечание

Возвращаемые Tensor являются копиями и никогда не ссылаются на group["lr"] оптимизатора.

load_state_dict(state_dict) [исходный код]

Загрузить состояние планировщика.

Параметры:

state_dict (dict) – Состояние планировщика. Должен быть объектом, возвращённым вызовом state_dict().

state_dict() [исходный код]

Возвращает состояние планировщика в виде dict.

Содержит запись для каждой переменной в self.__dict__, кроме оптимизатора.

Тип возвращаемого значения:

dict[str, Any]

step(epoch=None) [исходный код]

Выполнить шаг планировщика.

Параметры:

epoch (int, optional) –

Устарело начиная с версии 1.4: Если задано, устанавливает last_epoch в значение epoch и использует _get_closed_form_lr(), если он доступен. Эта возможность поддерживается не во всех случаях. Вместо этого вызывайте step() без аргументов.

Примечание

Вызывайте этот метод после вызова step() оптимизатора.