Softmax

class torch.nn.modules.activation.Softmax(dim=None) [исходный код]

Применяет функцию Softmax к n-мерному входному тензору.

Масштабирует значения так, чтобы элементы n-мерного выходного тензора находились в диапазоне [0,1] и в сумме давали 1.

Функция Softmax определяется следующим образом:

$$\text{Softmax}(x_{i}) = \frac{\exp(x_i)}{\sum_j \exp(x_j)}$$

Если входной тензор является разреженным, то неуказанные значения считаются равными -inf.

Форма:

• Вход: $(*)$, где * означает любое количество дополнительных измерений
• Выход: $(*)$, форма совпадает с формой входа

Возвращает:

тензор той же размерности и формы, что и входной, со значениями в диапазоне [0, 1]

Параметры:

dim (int) – измерение, вдоль которого вычисляется Softmax (таким образом, сумма каждого среза вдоль dim равна 1).

Тип возвращаемого значения:

None

Примечание

Этот модуль не работает напрямую с NLLLoss, которому требуется вычислить логарифм между Softmax и самим собой. Вместо него используйте LogSoftmax (это быстрее и обладает лучшими численными свойствами).

Примеры:

>>> m = nn.Softmax(dim=1)
>>> input = torch.randn(2, 3)
>>> output = m(input)

extra_repr() [исходный код]

Возвращает дополнительное представление модуля.

Тип возвращаемого значения:

str

forward(input) [исходный код]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor