MultiMarginLoss

class torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean') [source]

Создает функцию потерь, оптимизирующую функцию потерь на основе шарнирной функции для многоклассовой классификации (функцию потерь на основе отступа) между входом $x$ (мини-пакетом Tensor размерности 2) и выходом $y$ (который представляет собой одномерный тензор индексов целевых классов, $0 \leq y \leq \text{x.size}(1)-1$):

Для каждого примера мини-пакета функция потерь для одномерного входа $x$ и скалярного выхода $y$ имеет вид:

$$\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$$

где $i \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\}$ и $i \neq y$.

При необходимости можно задать различные веса классов, передав в конструктор одномерный тензор weight.

Тогда функция потерь принимает вид:

$$\text{loss}(x, y) = \frac{\sum_i w[y] * \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$$

Параметры:

• p (int, необязательный) – По умолчанию равно $1$. Поддерживаются только значения $1$ и $2$.
• margin (float, необязательный) – По умолчанию равно $1$.
• weight (Tensor, необязательный) – вес для ручного масштабирования, назначаемый каждому классу. Если он задан, должен быть тензором размера C. В противном случае считается, что все его значения равны единице.
• size_average (bool, необязательный) – Устарел (см. reduction). По умолчанию значения функции потерь усредняются по каждому элементу функции потерь в пакете. Обратите внимание, что для некоторых функций потерь на один пример приходится несколько элементов. Если параметр size_average установлен в False, вместо этого значения функции потерь суммируются для каждого мини-пакета. Игнорируется, если reduce равен False. По умолчанию: True
• reduce (bool, необязательный) – Устарел (см. reduction). По умолчанию значения функции потерь усредняются или суммируются по наблюдениям для каждого мини-пакета в зависимости от size_average. Если reduce равен False, вместо этого возвращается значение функции потерь для каждого элемента пакета, а size_average игнорируется. По умолчанию: True
• reduction (str, необязательный) – Задает способ редукции выходных данных: 'none' | 'mean' | 'sum'. 'none': редукция не применяется, 'mean': сумма выходных данных делится на количество элементов в выходных данных, 'sum': выходные данные суммируются. Примечание: size_average и reduce постепенно выводятся из употребления; пока что указание любого из этих двух аргументов переопределяет reduction. По умолчанию: 'mean'

Форма:

• Вход: $(N, C)$ или $(C)$, где $N$ — размер пакета, а $C$ — количество классов.
• Целевые значения: $(N)$ или $()$, где каждое значение удовлетворяет условию $0 \leq \text{targets}[i] \leq C-1$.
• Выход: скаляр. Если reduction равен 'none', форма совпадает с формой целевых значений.

Примеры

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
>>> loss(x, y)
tensor(0.32...)

forward(input, target) [source]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor