tf.keras.activations.relu

Применяет функцию активации выпрямленного линейного блока.

tf.keras.activations.relu(
    x, negative_slope=0.0, max_value=None, threshold=0.0
)

С параметрами по умолчанию возвращает стандартную функцию активации ReLU: max(x, 0), то есть поэлементное максимальное значение между 0 и входным тензором.

Изменение параметров по умолчанию позволяет использовать не нулевые пороги, изменять максимальное значение активации и использовать не нулевой множитель входного значения для значений ниже порога.

Примеры:

x = [-10, -5, 0.0, 5, 10]
keras.activations.relu(x)
[ 0.,  0.,  0.,  5., 10.]
keras.activations.relu(x, negative_slope=0.5)
[-5. , -2.5,  0. ,  5. , 10. ]
keras.activations.relu(x, max_value=5.)
[0., 0., 0., 5., 5.]
keras.activations.relu(x, threshold=5.)
[-0., -0.,  0.,  0., 10.]