tf.keras.activations.relu

Применяет функцию активации линейного выпрямителя (ReLU).

tf.keras.activations.relu(
    x, negative_slope=0.0, max_value=None, threshold=0.0
)

При значениях параметров по умолчанию возвращается стандартная активация ReLU: max(x, 0), поэлементный максимум из 0 и входного тензора.

Изменение параметров по умолчанию позволяет использовать ненулевые пороговые значения, менять максимальное значение активации и задавать ненулевой множитель входного значения для значений ниже порога.

Примеры:

x = [-10, -5, 0.0, 5, 10]
keras.activations.relu(x)
[ 0.,  0.,  0.,  5., 10.]
keras.activations.relu(x, negative_slope=0.5)
[-5. , -2.5,  0. ,  5. , 10. ]
keras.activations.relu(x, max_value=5.)
[0., 0., 0., 5., 5.]
keras.activations.relu(x, threshold=5.)
[-0., -0.,  0.,  0., 10.]