Softmax

class torch.nn.Softmax(dim=None) [source]

Применяет функцию Softmax к n-мерному тензору, перемасштабируя элементы так, чтобы элементы n-мерного выходного тензора лежали в диапазоне [0,1] и суммировались до 1.

Softmax определяется как:

$$\text{Softmax}(x_{i}) = \frac{\exp(x_i)}{\sum_j \exp(x_j)}$$

Когда входной тензор является разреженным тензором, значения, которые не указаны, обрабатываются как -inf.

Форма:

• Вход: $(*)$, где * означает любое количество дополнительных измерений
• Выход: $(*)$, та же форма, что и входной

Возвращает

тензор той же размерности и формы, что и входной, со значениями в диапазоне [0, 1]

Параметры

dim (int) – Измерение, по которому будет вычисляться Softmax (так что каждый срез вдоль dim будет суммироваться до 1).

Тип возвращаемого значения

None

Примечание

Этот модуль не работает напрямую с NLLLoss, который ожидает вычисления Log между Softmax и самим собой. Используйте LogSoftmax вместо этого (он быстрее и имеет лучшие численные свойства).

Примеры:

>>> m = nn.Softmax(dim=1)
>>> input = torch.randn(2, 3)
>>> output = m(input)