tf.keras.layers.LeakyReLU

Утечка версии функции активации Rectified Linear Unit.

Наследуется от: Layer, Module

tf.keras.layers.LeakyReLU(
    alpha=0.3, **kwargs
)

Она позволяет небольшому градиенту, когда блок не активен:

f(x) = alpha * x if x < 0
f(x) = x if x >= 0

Использование:

layer = tf.keras.layers.LeakyReLU()
output = layer([-3.0, -1.0, 0.0, 2.0])
list(output.numpy())
[-0.9, -0.3, 0.0, 2.0]
layer = tf.keras.layers.LeakyReLU(alpha=0.1)
output = layer([-3.0, -1.0, 0.0, 2.0])
list(output.numpy())
[-0.3, -0.1, 0.0, 2.0]

Форма входных данных:

Произвольная. Используйте ключевое слово input_shape (кортеж целых чисел, не включая ось пакетности), когда вы используете этот слой в качестве первого слоя в модели.

Форма выходных данных:

Такая же, как у входных данных.