tf.compat.v1.nn.silu

Вычисляет функцию активации SiLU или Swish: x * sigmoid(beta * x).

Просмотреть псевдонимы

Псевдонимы для совместимости при миграции

Подробнее см. в руководстве по миграции.

tf.compat.v1.nn.swish

tf.compat.v1.nn.silu(
    features, beta=1.0
)

beta : гиперпараметр функции активации Swish. Значение по умолчанию — 1.0.

Функция активации SiLU была представлена в работах «Gaussian Error Linear Units (GELUs)» Hendrycks и др., 2016 и «Sigmoid-Weighted Linear Units for Neural Network Function Approximation in Reinforcement Learning» Elfwing и др., 2017, а также независимо открыта (и названа Swish) в работе «Поиск функций активации» Ramachandran и др., 2017

Аргументы
`features`	`Tensor`, представляющее значения до активации.
`beta`	«Tensor», представляющий значение гиперпараметра beta.

Возвращает
Значение активации.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/compat/v1/nn/silu