MultiStepLR

class torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma=0.1, last_epoch=-1) [исходный код]

Уменьшает скорость обучения каждой группы параметров на gamma, когда номер эпохи достигает одной из контрольных точек.

Обратите внимание, что такое уменьшение может происходить одновременно с другими изменениями скорости обучения, выполняемыми вне этого планировщика. Если last_epoch=-1, устанавливает начальную скорость обучения равной lr.

Параметры:

• optimizer (Optimizer) – Обёрнутый оптимизатор.
• milestones (list) – Список индексов эпох. Должны идти в возрастающем порядке.
• gamma (float) – Множитель для уменьшения скорости обучения. По умолчанию: 0.1.
• last_epoch (int) – Индекс последней эпохи. По умолчанию: -1.

Пример

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.05     if epoch < 30
>>> # lr = 0.005    if 30 <= epoch < 80
>>> # lr = 0.0005   if epoch >= 80
>>> scheduler = MultiStepLR(optimizer, milestones=[30, 80], gamma=0.1)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr() [исходный код]

Получить последние значения скорости обучения, вычисленные этим планировщиком.

Возвращает:

list значений скорости обучения для каждой param_groups оптимизатора; типы элементов соответствуют типам их group["lr"].

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Возвращённые Tensor являются копиями и никогда не ссылаются на group["lr"] оптимизатора.

get_lr() [исходный код]

Вычислить следующую скорость обучения для каждой из param_groups оптимизатора.

Если текущая эпоха содержится в milestones, уменьшает group["lr"] в param_groups оптимизатора на gamma.

Возвращает:

list значений скорости обучения для каждой из param_groups оптимизатора; типы элементов соответствуют типам их текущих group["lr"].

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Если вы хотите узнать последнее значение скорости обучения, используйте get_last_lr().

Примечание

Возвращённые Tensor являются копиями и никогда не ссылаются на group["lr"] оптимизатора.

Примечание

Если текущая эпоха встречается в milestones n раз, масштабирование выполняется на gamma в степени n

load_state_dict(state_dict) [исходный код]

Загрузить состояние планировщика.

Параметры:

state_dict (dict) – Состояние планировщика. Должно быть объектом, возвращённым вызовом state_dict().

state_dict() [исходный код]

Вернуть состояние планировщика в виде dict.

Содержит запись для каждой переменной в self.__dict__, кроме оптимизатора.

Тип возвращаемого значения:

dict[str, Any]

step(epoch=None) [исходный код]

Выполнить шаг планировщика.

Параметры:

epoch (int, необязательный) –

Устарело начиная с версии 1.4: Если аргумент задан, устанавливает last_epoch в epoch и использует _get_closed_form_lr(), если он доступен. Эта возможность поддерживается не во всех случаях. Вместо этого вызывайте step() без аргументов.

Примечание

Вызывайте этот метод после вызова step() оптимизатора.