CELU

class torch.nn.CELU(alpha=1.0, inplace=False) [source]

Применяет поэлементную функцию:

$$\text{CELU}(x) = \max(0,x) + \min(0, \alpha * (\exp(x/\alpha) - 1))$$

Более подробную информацию можно найти в статье Continuously Differentiable Exponential Linear Units .

Параметры

• alpha (float) – значение $\alpha$ для формулы CELU. Значение по умолчанию: 1.0
• inplace (bool) – опционально выполняет операцию на месте. Значение по умолчанию: False

Форма:

• Вход: $(*)$, где $*$ означает любое количество измерений.
• Выход: $(*)$, форма такая же, как у входных данных.

Примеры:

>>> m = nn.CELU()
>>> input = torch.randn(2)
>>> output = m(input)