tf.compat.v1.nn.crelu

Вычисляет конкатенированную ReLU.

tf.compat.v1.nn.crelu(
    features, name=None, axis=-1
)

Объединяет ReLU, которая выбирает только положительную часть активации, с ReLU, которая выбирает только отрицательную часть активации. Обратите внимание, что в результате эта нелинейность удваивает глубину активаций. Источник: Понимание и улучшение сверточных нейронных сетей с помощью конкатенированных выпрямленных линейных блоков. W. Shang и др.

Аргументы
`features`	`Tensor` с типом `float`, `double`, `int32`, `int64`, `uint8`, `int16` или `int8`.
`name`	Имя операции (необязательно).
`axis`	Ось, вдоль которой объединяются выходные значения. По умолчанию — -1.

Возвращает
`Tensor` того же типа, что и `features`.

Ссылки
Понимание и улучшение сверточных нейронных сетей с помощью конкатенированных выпрямленных линейных блоков: Shang и др., 2016 (PDF)

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/nn/crelu