tf.compat.v1.nn.relu6

Вычисляет Rectified Linear 6: min(max(features, 0), 6).

tf.compat.v1.nn.relu6(
    features, name=None
)

В сравнении с tf.nn.relu, функции активации relu6 показали лучшие эмпирические результаты в условиях низкой точности (например, фиксированной точке вывода), поощряя модель обучаться более компактным признакам на ранних этапах. Источник: Convolutional Deep Belief Networks on CIFAR-10: Krizhevsky et al., 2010.

Например:

x = tf.constant([-3.0, -1.0, 0.0, 6.0, 10.0], dtype=tf.float32)
y = tf.nn.relu6(x)
y.numpy()
array([0., 0., 0., 6., 6.], dtype=float32)

Аргументы
`features`	Объект с типом `float`, `double`, `int32`, `int64`, `uint8`, `int16` или `int8`.
`name`	Имя операции (необязательно).

Возвращает
Объект с тем же типом, что и `features`.

Ссылки
Convolutional Deep Belief Networks on CIFAR-10: Krizhevsky et al., 2010 (pdf)

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/nn/relu6