Mish

class torch.nn.modules.activation.Mish(inplace=False) [исходный код]

Поэлементно применяет функцию Mish.

Mish: саморегулируемая немонотонная функция активации нейронной сети.

$$\text{Mish}(x) = x * \text{Tanh}(\text{Softplus}(x))$$

Примечание

См. Mish: саморегулируемая немонотонная функция активации нейронной сети

Форма:

• Вход: $(*)$, где $*$ означает любое количество измерений.
• Выход: $(*)$, форма совпадает с формой входных данных.

Примеры:

>>> m = nn.Mish()
>>> input = torch.randn(2)
>>> output = m(input)

extra_repr() [исходный код]

Возвращает дополнительное представление модуля.

Тип возвращаемого значения:

str

forward(input) [исходный код]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor