torch.nn.functional.prelu

torch.nn.functional.prelu(input, weight) → Tensor

Применяет поэлементно функцию $\text{PReLU}(x) = \max(0,x) + \text{weight} * \min(0,x)$, где вес является обучаемым параметром.

Примечание

weight ожидается, что будет скаляром или одномерным тензором. Если weight является одномерным, его размер должен соответствовать числу входных каналов, определяемому input.size(1) при input.dim() >= 2, в противном случае 1. В одномерном случае обратите внимание, что когда input имеет размерность > 2, weight может быть расширен до формы input способом, который невозможен с использованием обычных семантики векторизации.

См. PReLU для получения более подробной информации.