RandomUnstructured

class torch.nn.utils.prune.RandomUnstructured(amount) [исходный код]

Случайным образом прореживает элементы тензора, которые ещё не были прорежены.

Параметры:

• name (str) – имя параметра в module, к которому будет применено прореживание.
• amount (int или float) – количество параметров для прореживания. Если float, значение должно находиться между 0.0 и 1.0 и обозначать долю параметров для прореживания. Если int, значение обозначает абсолютное количество параметров для прореживания.

classmethod apply(module, name, amount) [исходный код]

Добавляет динамическое прореживание и репараметризацию тензора.

Добавляет предварительный обработчик прямого вызова, который включает динамическое прореживание и репараметризацию тензора на основе исходного тензора и маски прореживания.

Параметры:

• module (nn.Module) – модуль, содержащий тензор для прореживания
• name (str) – имя параметра в module, к которому будет применено прореживание.
• amount (int или float) – количество параметров для прореживания. Если float, значение должно находиться между 0.0 и 1.0 и обозначать долю параметров для прореживания. Если int, значение обозначает абсолютное количество параметров для прореживания.

apply_mask(module) [исходный код]

Выполняет умножение прореживаемого параметра на созданную маску.

Извлекает маску и исходный тензор из модуля и возвращает прореженную версию тензора.

Параметры:

module (nn.Module) – модуль, содержащий тензор для прореживания

Возвращает:

прореженную версию входного тензора

Тип возвращаемого значения:

pruned_tensor (torch.Tensor)

prune(t, default_mask=None, importance_scores=None) [исходный код]

Вычисляет и возвращает прореженную версию входного тензора t.

В соответствии с правилом прореживания, заданным в compute_mask().

Параметры:

• t (torch.Tensor) – тензор для прореживания (с теми же размерами, что и default_mask).
• importance_scores (torch.Tensor) – тензор оценок важности (той же формы, что и t), используемый для вычисления маски прореживания t. Значения в этом тензоре показывают важность соответствующих элементов в t, который прореживается. Если значение не задано или равно None, вместо него будет использоваться тензор t.
• default_mask (torch.Tensor, необязательный) – маска предыдущей итерации прореживания, если она есть. Учитывается при определении части тензора, к которой следует применить прореживание. Если значение равно None, по умолчанию используется маска из единиц.

Возвращает:

прореженную версию тензора t.

remove(module) [исходный код]

Удаляет репараметризацию прореживания из модуля.

Прореженный параметр с именем name остаётся прореженным навсегда, а параметр с именем name+'_orig' удаляется из списка параметров. Аналогично, буфер с именем name+'_mask' удаляется из списка буферов.

Примечание

Само прореживание НЕ отменяется и не обращается!