tf.keras.losses.BinaryFocalCrossentropy
Вычисляет функцию потерь фокальной кросс-энтропии между истинными метками и предсказаниями.
Наследуется от: Loss
tf.keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=False,
alpha=0.25,
gamma=2.0,
from_logits=False,
label_smoothing=0.0,
axis=-1,
reduction='sum_over_batch_size',
name='binary_focal_crossentropy'
)
Функция потерь бинарной кросс-энтропии часто используется в задачах бинарной классификации (0 или 1). Для функции потерь требуются следующие входные данные:
-
y_true(истинная метка): принимает значение 0 или 1. -
y_pred(предсказанное значение): предсказание модели, то есть одно значение с плавающей запятой, представляющее собой либо логит (то есть значение в диапазоне [-inf, inf], когдаfrom_logits=True), либо вероятность (то есть значение в диапазоне[0., 1.], когдаfrom_logits=False).
Согласно работе Lin et al., 2018, полезно применять «фокальный коэффициент», чтобы уменьшить вес простых примеров и уделить больше внимания сложным. По умолчанию фокальный тензор вычисляется следующим образом:
focal_factor = (1 - output) ** gamma для класса 1 focal_factor = output ** gamma для класса 0, где gamma — параметр фокусировки. Когда gamma=0, эта функция эквивалентна функции потерь бинарной кросс-энтропии.
| Аргументы | |
|---|---|
apply_class_balancing | Логическое значение, указывающее, следует ли применять балансировку весов для бинарных классов 0 и 1. |
alpha | Коэффициент балансировки весов для класса 1; значение по умолчанию — 0.25, как указано в работе Lin et al., 2018. Вес класса 0 равен 1.0 - alpha. |
gamma | Параметр фокусировки, используемый для вычисления фокального коэффициента; значение по умолчанию — 2.0, как указано в работе Lin et al., 2018. |
from_logits | Следует ли интерпретировать y_pred как тензор значений логитов. По умолчанию предполагается, что y_pred — это вероятности (то есть значения в диапазоне [0, 1]). |
label_smoothing | Число с плавающей запятой в диапазоне [0, 1]. Если 0, сглаживание не выполняется. Если значение > 0, функция потерь вычисляется между предсказанными метками и сглаженной версией истинных меток, при этом сглаживание сдвигает метки в сторону 0.5. Чем больше значение label_smoothing, тем сильнее сглаживание. |
axis | Ось, вдоль которой вычисляется кросс-энтропия (ось признаков). По умолчанию — -1. |
reduction | Тип редукции, применяемой к функции потерь. Почти во всех случаях следует использовать "sum_over_batch_size". Поддерживаются варианты "sum", "sum_over_batch_size" или None. |
name | Необязательное имя экземпляра функции потерь. |
Примеры:
С API compile():
model.compile(
loss=keras.losses.BinaryFocalCrossentropy(
gamma=2.0, from_logits=True),
...
)
Как отдельная функция:
# Example 1: (batch_size = 1, number of samples = 4) y_true = [0, 1, 0, 0] y_pred = [-18.6, 0.51, 2.94, -12.8] loss = keras.losses.BinaryFocalCrossentropy( gamma=2, from_logits=True) loss(y_true, y_pred) 0.691
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=True, gamma=2, from_logits=True)
loss(y_true, y_pred)
0.51# Example 2: (batch_size = 2, number of samples = 4)
y_true = [[0, 1], [0, 0]]
y_pred = [[-18.6, 0.51], [2.94, -12.8]]
# Using default 'auto'/'sum_over_batch_size' reduction type.
loss = keras.losses.BinaryFocalCrossentropy(
gamma=3, from_logits=True)
loss(y_true, y_pred)
0.647# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=True, gamma=3, from_logits=True)
loss(y_true, y_pred)
0.482# Using 'sample_weight' attribute with focal effect
loss = keras.losses.BinaryFocalCrossentropy(
gamma=3, from_logits=True)
loss(y_true, y_pred, sample_weight=[0.8, 0.2])
0.133# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=True, gamma=3, from_logits=True)
loss(y_true, y_pred, sample_weight=[0.8, 0.2])
0.097# Using 'sum' reduction` type.
loss = keras.losses.BinaryFocalCrossentropy(
gamma=4, from_logits=True,
reduction="sum")
loss(y_true, y_pred)
1.222# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=True, gamma=4, from_logits=True,
reduction="sum")
loss(y_true, y_pred)
0.914# Using 'none' reduction type.
loss = keras.losses.BinaryFocalCrossentropy(
gamma=5, from_logits=True,
reduction=None)
loss(y_true, y_pred)
array([0.0017 1.1561], dtype=float32)# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
apply_class_balancing=True, gamma=5, from_logits=True,
reduction=None)
loss(y_true, y_pred)
array([0.0004 0.8670], dtype=float32)Методы
call
call(
y_true, y_pred
)
from_config
@classmethod
from_config(
config
)
get_config
get_config()
__call__
__call__(
y_true, y_pred, sample_weight=None
)
Вызов self как функции.
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/losses/BinaryFocalCrossentropy