SequentialLR

class torch.optim.lr_scheduler.SequentialLR(optimizer, schedulers, milestones, last_epoch=-1) [исходный код]

Содержит список планировщиков, которые предполагается вызывать последовательно в процессе оптимизации.

В частности, планировщики будут вызываться в соответствии с контрольными точками, которые должны задавать точные интервалы, через которые следует вызывать каждый планировщик на заданной эпохе.

Параметры:

• optimizer (Optimizer) – Обернутый оптимизатор.
• schedulers (list) – Список связанных планировщиков.
• milestones (list) – Список целых чисел, отражающих контрольные точки.
• last_epoch (int) – Индекс последней эпохи. По умолчанию: -1.

Пример

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.005     if epoch == 0
>>> # lr = 0.005     if epoch == 1
>>> # lr = 0.005     if epoch == 2
>>> # ...
>>> # lr = 0.05      if epoch == 20
>>> # lr = 0.045     if epoch == 21
>>> # lr = 0.0405    if epoch == 22
>>> scheduler1 = ConstantLR(optimizer, factor=0.1, total_iters=20)
>>> scheduler2 = ExponentialLR(optimizer, gamma=0.9)
>>> scheduler = SequentialLR(
...     optimizer,
...     schedulers=[scheduler1, scheduler2],
...     milestones=[20],
... )
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr() [исходный код]

Получить последние значения скорости обучения, вычисленные этим планировщиком.

Возвращает:

list значений скорости обучения с элементами для каждого param_groups оптимизатора, имеющими те же типы, что и их group["lr"].

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Возвращаемые Tensor являются копиями и никогда не являются ссылками на group["lr"] оптимизатора.

get_lr() [исходный код]

Вычислить следующую скорость обучения для каждого param_groups оптимизатора.

Возвращает:

list значений скорости обучения для каждого param_groups оптимизатора, имеющих те же типы, что и их текущие group["lr"].

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Чтобы узнать последнее значение скорости обучения, используйте вместо этого get_last_lr().

Примечание

Возвращаемые Tensor являются копиями и никогда не являются ссылками на group["lr"] оптимизатора.

load_state_dict(state_dict) [исходный код]

Загрузить состояние планировщика.

Параметры:

state_dict (dict) – состояние планировщика. Должен быть объектом, возвращенным вызовом state_dict().

recursive_undo(sched=None) [исходный код]

Рекурсивно отменить все действия, выполненные при инициализации планировщиков.

state_dict() [исходный код]

Вернуть состояние планировщика в виде dict.

Оно содержит запись для каждой переменной в self.__dict__, кроме оптимизатора. Также будут сохранены состояния обернутых планировщиков.

Тип возвращаемого значения:

dict[str, Any]

step() [исходный код]

Выполнить шаг.