Многократное потери по расстоянию

class torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean') [source]

Создаёт критерий, который оптимизирует потери по отступу для многоклассовой классификации (основанные на отступе потери) между входом $x$ (двумерный мини-пакет Tensor) и выходом $y$ (который является одномерным тензором индексов целевого класса, $0 \leq y \leq \text{x.size}(1)-1$):

Для каждого образца мини-пакета потери по отношению к одномерному входу $x$ и скалярному выходу $y$ вычисляются следующим образом:

$$\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$$

где $i \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\}$ и $i \neq y$.

Необязательно, вы можете присвоить разные веса классам, передав одномерный weight тензор в конструктор.

Функция потерь тогда принимает вид:

$$\text{loss}(x, y) = \frac{\sum_i \max(0, w[y] * (\text{margin} - x[y] + x[i]))^p}{\text{x.size}(0)}$$

Параметры:

• p (int, необязательно) – Имеет значение по умолчанию $1$. Поддерживаются только значения $1$ и $2$.
• margin (float, необязательно) – Имеет значение по умолчанию $1$.
• weight (Tensor, необязательно) – ручной масштабирующий вес, присваиваемый каждому классу. Если задан, он должен быть тензором размера C. В противном случае он обрабатывается так, как будто все значения равны единице.
• size_average (bool, необязательно) – Устарело (см. reduction). По умолчанию потери усредняются по каждому элементу потерь в пакете. Обратите внимание, что для некоторых потерь существует несколько элементов на образец. Если поле size_average установлено в False, потери суммируются для каждого мини-пакета. Игнорируется, когда reduce равно False. По умолчанию: True
• reduce (bool, необязательно) – Устарело (см. reduction). По умолчанию потери усредняются или суммируются по наблюдениям для каждого мини-пакета в зависимости от size_average. Когда reduce равно False, возвращает потери на элемент пакета и игнорирует size_average. По умолчанию: True
• reduction (str, необязательно) – Указывает операцию сокращения, которую следует применить к выходу: 'none' | 'mean' | 'sum'. 'none': не применяется сокращение, 'mean': сумма выхода делится на количество элементов в выходе, 'sum': выход суммируется. Примечание: size_average и reduce в процессе устаревания, и пока что указание любого из этих двух аргументов переопределит reduction. По умолчанию: 'mean'

Форма:

• Вход: $(N, C)$ или $(C)$, где $N$ — размер пакета, а $C$ — количество классов.
• Цель: $(N)$ или $()$, где каждое значение равно $0 \leq \text{targets}[i] \leq C-1$.
• Выход: скаляр. Если reduction равно 'none', то форма такая же, как у цели.

Примеры:

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
>>> loss(x, y)
tensor(0.32...)