HuberLoss

class torch.nn.modules.loss.HuberLoss(reduction='mean', delta=1.0) [source]

Создаёт функцию потерь, которая использует квадратичный член, если абсолютная поэлементная ошибка меньше delta, и масштабируемый delta член L1 в противном случае. Эта функция потерь объединяет преимущества L1Loss и MSELoss; область масштабируемого delta члена L1 делает функцию потерь менее чувствительной к выбросам, чем MSELoss, а область L2 обеспечивает гладкость вблизи 0 по сравнению с L1Loss. Дополнительную информацию см. в статье функция потерь Хьюбера.

Для пакета размером $N$ не редуцированную функцию потерь можно описать следующим образом:

$$\ell(x, y) = L = \{l_1, ..., l_N\}^T$$

где

$$l_n = \begin{cases} 0.5 (x_n - y_n)^2, & \text{if } |x_n - y_n| < delta \\ delta * (|x_n - y_n| - 0.5 * delta), & \text{otherwise } \end{cases}$$

Если reduction не равно none, то:

$$\ell(x, y) = \begin{cases} \operatorname{mean}(L), & \text{if reduction} = \text{`mean';}\\ \operatorname{sum}(L), & \text{if reduction} = \text{`sum'.} \end{cases}$$

Примечание

При значении delta, равном 1, эта функция потерь эквивалентна SmoothL1Loss. В общем случае эта функция потерь отличается от SmoothL1Loss в delta раз (также beta в Smooth L1). Дополнительное обсуждение различий в поведении этих двух функций потерь см. в описании SmoothL1Loss.

Параметры:

• reduction (str, необязательный) – Задаёт способ редукции выходных данных: 'none' | 'mean' | 'sum'. 'none': редукция не применяется, 'mean': сумма выходных данных делится на количество элементов в выходных данных, 'sum': выходные данные суммируются. По умолчанию: 'mean'
• delta (float, необязательный) – Задаёт порог, при котором происходит переключение между функцией потерь L1, масштабируемой на delta, и функцией потерь L2. Значение должно быть положительным. По умолчанию: 1.0

Форма:

• Входные данные: $(*)$, где $*$ означает любое количество измерений.
• Целевые данные: $(*)$, той же формы, что и входные данные.
• Выходные данные: скаляр. Если reduction равно 'none', то $(*)$, той же формы, что и входные данные.

Примеры

>>> loss = nn.HuberLoss()
>>> input = torch.randn(3, 5, requires_grad=True)
>>> target = torch.randn(3, 5)
>>> output = loss(input, target)
>>> output.backward()

forward(input, target) [source]

Выполняет прямой проход.

Тип возвращаемого значения:

Tensor