Spec-Zone.ru › TensorFlow

tf.keras.losses.BinaryFocalCrossentropy

Вычисляет функцию потерь фокальной кросс-энтропии между истинными метками и предсказаниями.

Наследуется от: Loss

tf.keras.losses.BinaryFocalCrossentropy(
    apply_class_balancing=False,
    alpha=0.25,
    gamma=2.0,
    from_logits=False,
    label_smoothing=0.0,
    axis=-1,
    reduction='sum_over_batch_size',
    name='binary_focal_crossentropy'
)

Функция потерь бинарной кросс-энтропии часто используется в задачах бинарной классификации (0 или 1). Для функции потерь требуются следующие входные данные:

  • y_true (истинная метка): принимает значение 0 или 1.
  • y_pred (предсказанное значение): предсказание модели, то есть одно значение с плавающей запятой, представляющее собой либо логит (то есть значение в диапазоне [-inf, inf], когда from_logits=True), либо вероятность (то есть значение в диапазоне [0., 1.], когда from_logits=False).

Согласно работе Lin et al., 2018, полезно применять «фокальный коэффициент», чтобы уменьшить вес простых примеров и уделить больше внимания сложным. По умолчанию фокальный тензор вычисляется следующим образом:

focal_factor = (1 - output) ** gamma для класса 1 focal_factor = output ** gamma для класса 0, где gamma — параметр фокусировки. Когда gamma=0, эта функция эквивалентна функции потерь бинарной кросс-энтропии.

Аргументы
apply_class_balancing Логическое значение, указывающее, следует ли применять балансировку весов для бинарных классов 0 и 1.
alpha Коэффициент балансировки весов для класса 1; значение по умолчанию — 0.25, как указано в работе Lin et al., 2018. Вес класса 0 равен 1.0 - alpha.
gamma Параметр фокусировки, используемый для вычисления фокального коэффициента; значение по умолчанию — 2.0, как указано в работе Lin et al., 2018.
from_logits Следует ли интерпретировать y_pred как тензор значений логитов. По умолчанию предполагается, что y_pred — это вероятности (то есть значения в диапазоне [0, 1]).
label_smoothing Число с плавающей запятой в диапазоне [0, 1]. Если 0, сглаживание не выполняется. Если значение > 0, функция потерь вычисляется между предсказанными метками и сглаженной версией истинных меток, при этом сглаживание сдвигает метки в сторону 0.5. Чем больше значение label_smoothing, тем сильнее сглаживание.
axis Ось, вдоль которой вычисляется кросс-энтропия (ось признаков). По умолчанию — -1.
reduction Тип редукции, применяемой к функции потерь. Почти во всех случаях следует использовать "sum_over_batch_size". Поддерживаются варианты "sum", "sum_over_batch_size" или None.
name Необязательное имя экземпляра функции потерь.

Примеры:

С API compile():

model.compile(
    loss=keras.losses.BinaryFocalCrossentropy(
        gamma=2.0, from_logits=True),
    ...
)

Как отдельная функция:

# Example 1: (batch_size = 1, number of samples = 4)
y_true = [0, 1, 0, 0]
y_pred = [-18.6, 0.51, 2.94, -12.8]
loss = keras.losses.BinaryFocalCrossentropy(
   gamma=2, from_logits=True)
loss(y_true, y_pred)
0.691
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
    apply_class_balancing=True, gamma=2, from_logits=True)
loss(y_true, y_pred)
0.51
# Example 2: (batch_size = 2, number of samples = 4)
y_true = [[0, 1], [0, 0]]
y_pred = [[-18.6, 0.51], [2.94, -12.8]]
# Using default 'auto'/'sum_over_batch_size' reduction type.
loss = keras.losses.BinaryFocalCrossentropy(
    gamma=3, from_logits=True)
loss(y_true, y_pred)
0.647
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
     apply_class_balancing=True, gamma=3, from_logits=True)
loss(y_true, y_pred)
0.482
# Using 'sample_weight' attribute with focal effect
loss = keras.losses.BinaryFocalCrossentropy(
    gamma=3, from_logits=True)
loss(y_true, y_pred, sample_weight=[0.8, 0.2])
0.133
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
     apply_class_balancing=True, gamma=3, from_logits=True)
loss(y_true, y_pred, sample_weight=[0.8, 0.2])
0.097
# Using 'sum' reduction` type.
loss = keras.losses.BinaryFocalCrossentropy(
    gamma=4, from_logits=True,
    reduction="sum")
loss(y_true, y_pred)
1.222
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
    apply_class_balancing=True, gamma=4, from_logits=True,
    reduction="sum")
loss(y_true, y_pred)
0.914
# Using 'none' reduction type.
loss = keras.losses.BinaryFocalCrossentropy(
    gamma=5, from_logits=True,
    reduction=None)
loss(y_true, y_pred)
array([0.0017 1.1561], dtype=float32)
# Apply class weight
loss = keras.losses.BinaryFocalCrossentropy(
    apply_class_balancing=True, gamma=5, from_logits=True,
    reduction=None)
loss(y_true, y_pred)
array([0.0004 0.8670], dtype=float32)

Методы

call

Посмотреть исходный код

call(
    y_true, y_pred
)

from_config

Посмотреть исходный код

@classmethod
from_config(
    config
)

get_config

Посмотреть исходный код

get_config()

__call__

Посмотреть исходный код

__call__(
    y_true, y_pred, sample_weight=None
)

Вызов self как функции.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/losses/BinaryFocalCrossentropy

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API