torch.nn.functional.kl_div

torch.nn.functional.kl_div(input, target, size_average=None, reduce=None, reduction='mean', log_target=False) [исходный код]

Вычисляет функцию потерь на основе расхождения Кульбака — Лейблера.

См. функцию потерь на основе расхождения Кульбака — Лейблера

Подробнее см. KLDivLoss.

Параметры:

• input (Tensor) – Тензор произвольной формы, содержащий логарифмы вероятностей.
• target (Tensor) – Тензор той же формы, что и input. См. log_target, чтобы узнать, как интерпретируется target.
• size_average (bool, необязательно) – Устарел (см. reduction).
• reduce (bool, необязательно) – Устарел (см. reduction).
• reduction (str, необязательно) – Задает способ сведения выходных данных: 'none' | 'batchmean' | 'sum' | 'mean'. 'none': сведение не выполняется 'batchmean': сумма выходных данных делится на размер пакета 'sum': выходные данные суммируются 'mean': выходные данные делятся на количество элементов в них Значение по умолчанию: 'mean'
• log_target (bool) – Флаг, указывающий, передается ли target в логарифмическом пространстве. Для некоторых распределений (например, softmax) рекомендуется использовать логарифмическое пространство, чтобы избежать численных проблем, вызванных явным log. Значение по умолчанию: False

Тип возвращаемого значения:

Tensor

Примечание

size_average и reduce постепенно объявляются устаревшими. Пока что указание любого из этих двух аргументов переопределит reduction.

Предупреждение

reduction = 'mean' не возвращает истинное значение расхождения KL. Используйте reduction = 'batchmean', которое соответствует математическому определению KL.