Dropout1d

class torch.nn.Dropout1d(p=0.5, inplace=False) [source]

Случайным образом обнуляет целые каналы (канал — это 1D карта признаков, например, $j$-й канал $i$-го образца в пакетном вводе — это 1D тензор $\text{input}[i, j]$). Каждый канал будет обнуляться независимо на каждом вызове прямого вычисления с вероятностью p используя выборки из биномиального распределения.

Обычно вход поступает от nn.Conv1d модулей.

Как описано в статье Efficient Object Localization Using Convolutional Networks, если смежные пиксели внутри карт признаков сильно коррелированы (как обычно бывает в ранних слоях свертки), то независимый дропаут не будет регулировать активации и в противном случае просто приведёт к уменьшению эффективной скорости обучения.

В этом случае, nn.Dropout1d() поможет продвигать независимость между картами признаков и должен использоваться вместо него.

Параметры

• p (float, необязательно) – вероятность обнуления элемента.
• inplace (bool, необязательно) – Если установлено True, выполняет эту операцию на месте

Форма:

• Вход: $(N, C, L)$ или $(C, L)$.
• Выход: $(N, C, L)$ или $(C, L)$ (такая же форма, как вход).

Примеры:

>>> m = nn.Dropout1d(p=0.2)
>>> input = torch.randn(20, 16, 32)
>>> output = m(input)