tf.nn.leaky_relu

Вычисление функции активации Leaky ReLU.

tf.nn.leaky_relu(
    features, alpha=0.2, name=None
)

Источник: Rectifier Nonlinearities Improve Neural Network Acoustic Models. AL Maas, AY Hannun, AY Ng - Proc. ICML, 2013. Аргументы: features: A Tensor представляющее значения до активации. Должно быть одного из следующих типов: float16, float32, float64, int32, int64. alpha: Наклон функции активации при x < 0. name: Имя операции (необязательно).

Ссылки:

Rectifier Nonlinearities Improve Neural Network Acoustic Models: Maas et al., 2013 (pdf)