tf.keras.losses.BinaryFocalCrossentropy
Вычисляет потерю фокусированной кросс-энтропии между истинными метками и прогнозами.
Унаследовано от: Loss
tf.keras.losses.BinaryFocalCrossentropy(
gamma=2.0,
from_logits=False,
label_smoothing=0.0,
axis=-1,
reduction=losses_utils.ReductionV2.AUTO,
name='binary_focal_crossentropy'
)
Потеря бинарной кросс-энтропии часто используется для задач бинарной (0 или 1) классификации. Функция потерь требует следующих входных данных:
-
y_true(истинная метка): Это либо 0, либо 1. -
y_pred(предсказанное значение): Это прогноз модели, т. е. одно плавающее значение, которое представляет либо logit (т. е. значение в [-беск., +беск.] приfrom_logits=True) или вероятность (т. е. значение в[0., 1.]приfrom_logits=False).
Согласно Lin et al., 2018, полезно применять «фокусный фактор» для уменьшения значимости лёгких примеров и большего фокусирования на сложных. По умолчанию фокусный тензор вычисляется следующим образом:
focal_factor = (1 - output) ** gamma для класса 1 focal_factor = output ** gamma для класса 0, где gamma - параметр фокусировки. Когда gamma=0, эта функция эквивалентна функции потерь бинарной кросс-энтропии.
С помощью API compile():
model.compile( loss=tf.keras.losses.BinaryFocalCrossentropy(gamma=2.0, from_logits=True), .... )
В качестве самостоятельной функции:
# Example 1: (batch_size = 1, number of samples = 4) y_true = [0, 1, 0, 0] y_pred = [-18.6, 0.51, 2.94, -12.8] loss = tf.keras.losses.BinaryFocalCrossentropy(gamma=2, from_logits=True) loss(y_true, y_pred).numpy() 0.691
# Example 2: (batch_size = 2, number of samples = 4) y_true = [[0, 1], [0, 0]] y_pred = [[-18.6, 0.51], [2.94, -12.8]] # Using default 'auto'/'sum_over_batch_size' reduction type. loss = tf.keras.losses.BinaryFocalCrossentropy(gamma=3, from_logits=True) loss(y_true, y_pred).numpy() 0.647
# Using 'sample_weight' attribute loss(y_true, y_pred, sample_weight=[0.8, 0.2]).numpy() 0.133
# Using 'sum' reduction` type.
loss = tf.keras.losses.BinaryFocalCrossentropy(gamma=4, from_logits=True,
reduction=tf.keras.losses.Reduction.SUM)
loss(y_true, y_pred).numpy()
1.222
# Using 'none' reduction type.
loss = tf.keras.losses.BinaryFocalCrossentropy(gamma=5, from_logits=True,
reduction=tf.keras.losses.Reduction.NONE)
loss(y_true, y_pred).numpy()
array([0.0017 1.1561], dtype=float32)
| Аргументы | |
|---|---|
gamma | Параметр фокусировки, используемый для вычисления фокусного фактора, по умолчанию равен 2.0, как указано в ссылке Lin et al., 2018. |
from_logits | Нужно ли рассматривать y_pred как тензор значений logit. По умолчанию мы предполагаем, что y_pred представляют вероятности (т.е., значения в [0, 1]). |
label_smoothing | Число с плавающей точкой в [0, 1]. Если 0, сглаживание не выполняется. Если > 0, мы вычисляем потерю между предсказанными метками и сглаженной версией истинных меток, где сглаживание сжимает метки к 0.5. Более высокие значения label_smoothing соответствуют более сильному сглаживанию. |
axis | Ось, по которой вычисляется кросс-энтропия (ось признаков). По умолчанию -1. |
reduction | Тип tf.keras.losses.Reduction для применения к потерь. Значение по умолчанию - AUTO. AUTO указывает, что опция уменьшения будет определена контекстом использования. Почти во всех случаях это по умолчанию SUM_OVER_BATCH_SIZE. При использовании с tf.distribute.Strategy вне встроенных циклов обучения, таких как tf.keras, compile() и fit(), использование SUM_OVER_BATCH_SIZE или AUTO вызовет ошибку. Подробнее см. этот учебник по настройке обучения tutorial. |
name | Имя операции. По умолчанию 'binary_focal_crossentropy'. |
Методы
from_config
@classmethod
from_config(
config
)
Инициализирует экземпляр Loss из его конфигурации (выхода get_config()).
| Аргументы | |
|---|---|
config | Выход get_config(). |
| Возвращает | |
|---|---|
Экземпляр Loss |
get_config
get_config()
Возвращает словарь конфигурации для экземпляра Loss.
__call__
__call__(
y_true, y_pred, sample_weight=None
)
Вызывает экземпляр Loss.
| Аргументы | |
|---|---|
y_true | Значения целевых переменных. форма = [batch_size, d0, .. dN], за исключением функций потерь с разреженной формой, таких как sparse categorical crossentropy, где форма = [batch_size, d0, .. dN-1] |
y_pred | Предсказанные значения. форма = [batch_size, d0, .. dN] |
sample_weight | Необязательные sample_weight выступают в качестве коэффициента для потерь. Если предоставлено скалярное значение, то потеря просто масштабируется на указанное значение. Если sample_weight - тензор размером [batch_size], то общая потеря для каждого образца в пакете масштабируется соответствующим элементом в векторе sample_weight. Если форма sample_weight равна [batch_size, d0, .. dN-1] (или может быть расширена до этой формы), то каждый элемент потери y_pred масштабируется соответствующим значением из sample_weight. (Примечание по dN-1: все функции потерь уменьшают размерность на 1, обычно осью -1.) |
| Возвращает | |
|---|---|
Вещественное число с плавающей точкой взвешенной потери Tensor. Если reduction равно NONE, у него есть форма [batch_size, d0, .. dN-1]; в противном случае это скаляр. (Примечание dN-1, так как все функции потерь уменьшают размерность на 1, обычно по оси -1.) |
| Возможные исключения | |
|---|---|
ValueError | Если форма sample_weight некорректна. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/keras/losses/BinaryFocalCrossentropy