Dropout1d

class torch.nn.Dropout1d(p=0.5, inplace=False) [исходный код]

Случайным образом обнуляет целые каналы.

Канал — это одномерная карта признаков, например, $j$-й канал $i$-го элемента пакетного входа представляет собой одномерный тензор $\text{input}[i, j]$.

При каждом прямом проходе каждый канал независимо обнуляется с вероятностью p; для этого используются выборки из распределения Бернулли.

Обычно вход поступает из модулей nn.Conv1d.

Как описано в статье Эффективная локализация объектов с помощью свёрточных сетей , если соседние пиксели внутри карт признаков сильно коррелируют (как это обычно бывает в ранних свёрточных слоях), то независимый и одинаково распределённый dropout не будет регуляризовать активации, а лишь приведёт к эффективному снижению скорости обучения.

В этом случае nn.Dropout1d() поможет обеспечить независимость между картами признаков, и вместо него следует использовать этот метод.

Параметры:

• p (float, необязательный) – вероятность обнуления элемента.
• inplace (bool, необязательный) – если задано значение True, операция будет выполняться на месте

Форма:

• Вход: $(N, C, L)$ или $(C, L)$.
• Выход: $(N, C, L)$ или $(C, L)$ (форма совпадает с формой входа).

Примеры:

>>> m = nn.Dropout1d(p=0.2)
>>> input = torch.randn(20, 16, 32)
>>> output = m(input)

forward(input) [исходный код]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor