Линейное уменьшение скорости обучения

class torch.optim.lr_scheduler.LinearLR(optimizer, start_factor=0.3333333333333333, end_factor=1.0, total_iters=5, last_epoch=- 1, verbose=False) [source]

Уменьшает скорость обучения каждого параметра группы линейно, изменяя небольшой множитель до тех пор, пока количество эпох не достигнет предварительно определенного этапа: total_iters. Обратите внимание, что такое уменьшение может происходить одновременно с другими изменениями скорости обучения извне этого планировщика. Когда last_epoch=-1, устанавливает начальную скорость обучения как lr.

Параметры:

• optimizer (Оптимизатор) – Объект оптимизатора.
• start_factor (float) – Число, на которое умножается скорость обучения в первой эпохе. Множитель изменяется к end_factor в последующих эпохах. По умолчанию: 1./3.
• end_factor (float) – Число, на которое умножается скорость обучения в конце линейного изменения. По умолчанию: 1.0.
• total_iters (int) – Количество итераций, когда множитель достигает 1. По умолчанию: 5.
• last_epoch (int) – Индекс последней эпохи. По умолчанию: -1.
• verbose (bool) – Если True, выводит сообщение в стандартный вывод для каждого обновления. По умолчанию: False.

Пример

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.025    if epoch == 0
>>> # lr = 0.03125  if epoch == 1
>>> # lr = 0.0375   if epoch == 2
>>> # lr = 0.04375  if epoch == 3
>>> # lr = 0.05    if epoch >= 4
>>> scheduler = LinearLR(self.opt, start_factor=0.5, total_iters=4)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr()

Возвращает последнюю вычисленную скорость обучения текущим планировщиком.

load_state_dict(state_dict)

Загружает состояние планировщика.

Параметры:

state_dict (dict) – состояние планировщика. Должен быть объектом, возвращенным из вызова state_dict().

print_lr(is_verbose, group, lr, epoch=None)

Отображает текущую скорость обучения.

state_dict()

Возвращает состояние планировщика в виде dict.

Он содержит запись для каждой переменной в self.__dict__, которая не является оптимизатором.