RReLU

class torch.nn.modules.activation.RReLU(lower=0.125, upper=0.3333333333333333, inplace=False) [исходный код]

Поэлементно применяет функцию рандомизированной линейной выпрямляющей единицы с утечкой.

Метод описан в статье: Эмпирическая оценка выпрямленных функций активации в сверточных сетях.

Функция определяется следующим образом:

$$\text{RReLU}(x) = \begin{cases} x & \text{if } x \geq 0 \\ ax & \text{ otherwise } \end{cases}$$

где $a$ случайным образом выбирается из равномерного распределения $\mathcal{U}(\text{lower}, \text{upper})$ во время обучения, а во время оценки значение $a$ фиксируется равным $a = \frac{\text{lower} + \text{upper}}{2}$.

Параметры:

• lower (float) – нижняя граница равномерного распределения. Значение по умолчанию: $\frac{1}{8}$
• upper (float) – верхняя граница равномерного распределения. Значение по умолчанию: $\frac{1}{3}$
• inplace (bool) – позволяет при необходимости выполнить операцию на месте. Значение по умолчанию: False

Форма:

• Вход: $(*)$, где $*$ означает любое количество измерений.
• Выход: $(*)$, форма совпадает с формой входных данных.

Примеры:

>>> m = nn.RReLU(0.1, 0.3)
>>> input = torch.randn(2)
>>> output = m(input)

extra_repr() [исходный код]

Возвращает дополнительное представление модуля.

Тип возвращаемого значения:

str

forward(input) [исходный код]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor