torch.nn.functional.mish

torch.nn.functional.mish(input, inplace=False) [source]

Применяет функцию Mish поэлементно. Mish: Саморегулирующаяся немонотонная нейронная функция активации.

$$\text{Mish}(x) = x * \text{Tanh}(\text{Softplus}(x))$$

Примечание

См. Mish: A Self Regularized Non-Monotonic Neural Activation Function

См. Mish для получения более подробной информации.

Тип возвращаемого значения

Тензор