torch.nn.functional.feature_alpha_dropout

torch.nn.functional.feature_alpha_dropout(input, p=0.5, training=False, inplace=False) [исходный код]

Случайным образом отключает целые каналы (канал — это карта признаков).

Например, $j$-й канал $i$-го примера во входном пакете — это тензор $\text{input}[i, j]$ входного тензора. В отличие от обычного Dropout, при котором активации устанавливаются в ноль, здесь активации устанавливаются в отрицательное значение насыщения функции активации SELU.

При каждом прямом проходе каждый элемент независимо маскируется с вероятностью p на основе выборок из распределения Бернулли. Маскируемые элементы выбираются случайным образом при каждом прямом проходе, а их значения масштабируются и сдвигаются для сохранения нулевого среднего и единичной дисперсии.

Подробнее см. FeatureAlphaDropout.

Параметры:

• p (float) – вероятность обнуления канала при дропауте. Значение по умолчанию: 0.5
• training (bool) – применять дропаут, если True. Значение по умолчанию: True
• inplace (bool) – Если установлено значение True, операция будет выполнена на месте. Значение по умолчанию: False

Тип возвращаемого значения:

Tensor