tf.nn.relu6
| Просмотреть исходный код на GitHub |
Вычисляет Rectified Linear 6: min(max(features, 0), 6).
tf.nn.relu6(
features, name=None
)
В сравнении с tf.nn.relu, функции активации relu6, по эмпирическим данным, работают лучше в условиях низкой точности (например, фиксированная точка вычислений), стимулируя модель к обучению более разреженных признаков на ранних стадиях. Источник: Свёрточные глубокие сети доверия на CIFAR-10: Krizhevsky и др., 2010.
Например:
x = tf.constant([-3.0, -1.0, 0.0, 6.0, 10.0], dtype=tf.float32) y = tf.nn.relu6(x) y.numpy() array([0., 0., 0., 6., 6.], dtype=float32)
| Аргументы | |
|---|---|
features | A Tensor с типом float, double, int32, int64, uint8, int16, или int8. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
A Tensor с тем же типом, что и features. |
Ссылки:
Свёрточные глубокие сети доверия на CIFAR-10: Krizhevsky и др., 2010 (pdf)
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/nn/relu6