CELU

class torch.nn.CELU(alpha=1.0, inplace=False) [source]

Применяет поэлементную функцию:

$$\text{CELU}(x) = \max(0,x) + \min(0, \alpha * (\exp(x/\alpha) - 1))$$

Более подробную информацию можно найти в статье Continuously Differentiable Exponential Linear Units .

Параметры:

• alpha (float) – значение $\alpha$ для формулы CELU. По умолчанию: 1.0
• inplace (bool) – необязательно выполнить операцию на месте. По умолчанию: False

Форма:

• Вход: $(*)$, где $*$ означает любое количество измерений.
• Выход: $(*)$, такая же форма, как и на входе.

Примеры:

>>> m = nn.CELU()
>>> input = torch.randn(2)
>>> output = m(input)