tf.nn.crelu

Вычисляет соединенное ReLU.

tf.nn.crelu(
    features, axis=-1, name=None
)

Соединяет ReLU, выбирающее только положительную часть активации, с ReLU, выбирающим только отрицательную часть активации. Обратите внимание, что в результате эта нелинейность удваивает глубину активаций. Источник: Понимание и улучшение свёрточных нейронных сетей с помощью соединенных выпрямленных линейных единиц. W. Shang и др.

Аргументы
`features`	A `Tensor` с типом `float`, `double`, `int32`, `int64`, `uint8`, `int16` или `int8`.
`name`	Имя операции (необязательно).
`axis`	Ось, по которой конкатенируются выходные значения. По умолчанию -1.

Возвращаемые значения
A `Tensor` с тем же типом, что и `features`.

Ссылки
Понимание и улучшение свёрточных нейронных сетей с помощью соединенных выпрямленных линейных единиц: Shang и др., 2016 (pdf)

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/nn/crelu