MultiplicativeLR

class torch.optim.lr_scheduler.MultiplicativeLR(optimizer, lr_lambda, last_epoch=-1) [source]

Умножает скорость обучения каждой группы параметров на коэффициент, заданный указанной функцией.

Если last_epoch=-1, устанавливает начальную скорость обучения равной lr.

Параметры:

• optimizer (Optimizer) – Обёрнутый оптимизатор.
• lr_lambda (function or list) – Функция, вычисляющая мультипликативный коэффициент для заданного целочисленного параметра epoch, либо список таких функций — по одной для каждой группы в optimizer.param_groups.
• last_epoch (int) – Индекс последней эпохи. По умолчанию: -1.

Пример

>>> lmbda = lambda epoch: 0.95
>>> scheduler = MultiplicativeLR(optimizer, lr_lambda=lmbda)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr() [source]

Возвращает последние скорости обучения, вычисленные этим планировщиком.

Возвращает:

list скоростей обучения с элементами для каждой param_groups оптимизатора; типы элементов совпадают с типами их group["lr"]ов.

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Возвращаемые Tensor являются копиями и никогда не ссылаются на group["lr"]ы оптимизатора.

get_lr() [source]

Вычисляет следующую скорость обучения для каждой param_groups оптимизатора.

Масштабирует текущие group["lr"]ы в каждой param_groups оптимизатора на значения, возвращаемые lr_lambdas в last_epoch.

Возвращает:

list скоростей обучения для каждой param_groups оптимизатора; типы элементов совпадают с типами их текущих group["lr"]ов.

Тип возвращаемого значения:

list[float | Tensor]

Примечание

Чтобы получить последнюю скорость обучения, используйте вместо этого get_last_lr().

Примечание

Возвращаемые Tensor являются копиями и никогда не ссылаются на group["lr"]ы оптимизатора.

load_state_dict(state_dict) [source]

Загружает состояние планировщика.

Параметры:

state_dict (dict) – Состояние планировщика. Должен быть объектом, возвращённым при вызове state_dict().

state_dict() [source]

Возвращает состояние планировщика в виде dict.

Содержит запись для каждой переменной в self.__dict__, кроме оптимизатора. Функции-лямбды скорости обучения сохраняются только в том случае, если они являются вызываемыми объектами, но не если они представлены функциями или лямбда-выражениями.

Тип возвращаемого значения:

dict[str, Any]

step(epoch=None) [source]

Выполняет шаг планировщика.

Параметры:

epoch (int, optional) –

Устарело с версии 1.4: Если задано, устанавливает last_epoch в epoch и использует _get_closed_form_lr(), если он доступен. Это поддерживается не во всех случаях. Вместо этого вызывайте step() без аргументов.

Примечание

Вызывайте этот метод после вызова step() оптимизатора.