torch.nn.utils.prune.l1_unstructured

torch.nn.utils.prune.l1_unstructured(module, name, amount, importance_scores=None) [исходный код]

Разреживает тензор, удаляя элементы с наименьшей L1-нормой.

Разреживает тензор, соответствующий параметру с именем name в module, удаляя указанное amount (пока не разреженных) элементов с наименьшей L1-нормой. Изменяет модуль на месте (и также возвращает изменённый модуль), выполняя следующие действия:

1. добавляет именованный буфер с именем name+'_mask', соответствующий бинарной маске, применённой методом разреживания к параметру name.
2. заменяет параметр name его разреженной версией, сохраняя исходный (неразреженный) параметр в новом параметре с именем name+'_orig'.

Параметры:

• module (nn.Module) – модуль, содержащий тензор для разреживания
• name (str) – имя параметра в module, к которому будет применено разреживание.
• amount (int или float) – количество параметров для разреживания. Если float, должно находиться в диапазоне от 0.0 до 1.0 и обозначает долю параметров для разреживания. Если int, обозначает абсолютное количество параметров для разреживания.
• importance_scores (torch.Tensor) – тензор оценок важности (той же формы, что и параметр модуля), используемый для вычисления маски разреживания. Значения в этом тензоре указывают важность соответствующих элементов разреживаемого параметра. Если не задан или равен None, вместо него будет использоваться параметр модуля.

Возвращает:

изменённую (то есть разреженную) версию входного модуля

Тип возвращаемого значения:

модуль (nn.Module)

Примеры

>>> m = prune.l1_unstructured(nn.Linear(2, 3), "weight", amount=0.2)
>>> m.state_dict().keys()
odict_keys(['bias', 'weight_orig', 'weight_mask'])