tf.nn.silu

Вычисляет функцию активации SiLU или Swish: x * sigmoid(beta * x).

Просмотр псевдонимов

Основные псевдонимы

tf.nn.swish

Псевдонимы совместимости для миграции

См. Руководство по миграции для получения более подробной информации.

tf.compat.v1.nn.silu, tf.compat.v1.nn.swish

tf.nn.silu(
    features, beta=1.0
)

beta : Гиперпараметр для функции активации Swish. Значение по умолчанию 1.0.

Функция активации SiLU была представлена в "Gaussian Error Linear Units (GELUs)" Hendrycks et al. 2016 и "Sigmoid-Weighted Linear Units for Neural Network Function Approximation in Reinforcement Learning" Elfwing et al. 2017, а также была независимо обнаружена (и названа swish) в "Searching for Activation Functions" Ramachandran et al. 2017

Аргументы
`features`	A `Tensor` представляющий значения предоктивации.
`beta`	A 'Tensor' представляющий значение гиперпараметра beta.

Возвращаемое значение
Значение активации.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/nn/silu