torch.nn.functional.prelu

torch.nn.functional.prelu(input, weight) → Tensor

Применяет поэлементно функцию $\text{PReLU}(x) = \max(0,x) + \text{weight} * \min(0,x)$, где weight — обучаемый параметр.

Примечание

weight должно быть скаляром или одномерным тензором. Если weight является одномерным, его размер должен соответствовать числу входных каналов, определяемому input.size(1) в случае input.dim() >= 2, иначе 1. В одномерном случае обратите внимание, что когда input имеет размерность > 2, weight может быть расширено до формы input таким образом, который невозможен с помощью обычных семантики трансляции.

См. PReLU для получения более подробной информации.