torch.Tensor.requires_grad_

Tensor.requires_grad_(requires_grad=True) → Tensor

Изменяет, следует ли autograd записывать операции над этим тензором: изменяет на месте атрибут requires_grad этого тензора. Возвращает этот тензор.

Основное применение requires_grad_() — указать autograd начать запись операций над тензором tensor. Если tensor имеет requires_grad=False (поскольку он был получен через DataLoader или потребовал предварительной обработки либо инициализации), tensor.requires_grad_() позволяет autograd начать записывать операции над tensor.

Параметры:

requires_grad (bool) – Следует ли autograd записывать операции над этим тензором. По умолчанию: True.

Пример:

>>> # Let's say we want to preprocess some saved weights and use
>>> # the result as new weights.
>>> saved_weights = [0.1, 0.2, 0.3, 0.25]
>>> loaded_weights = torch.tensor(saved_weights)
>>> weights = preprocess(loaded_weights)  # some function
>>> weights
tensor([-0.5503,  0.4926, -2.1158, -0.8303])

>>> # Now, start to record operations done to weights
>>> weights.requires_grad_()
>>> out = weights.pow(2).sum()
>>> out.backward()
>>> weights.grad
tensor([-1.1007,  0.9853, -4.2316, -1.6606])