tf.nn.sigmoid_cross_entropy_with_logits

Вычисляет перекрёстную энтропию сигмоиды, заданную logits.

tf.nn.sigmoid_cross_entropy_with_logits(
    _sentinel=None, labels=None, logits=None, name=None
)

Измеряет ошибку вероятности в задачах дискретной классификации, в которых каждый класс независим и не взаимоисключающий. Например, можно выполнить многоклассовую классификацию, где на изображении могут присутствовать одновременно слон и собака.

Для краткости, пусть x = logits, z = labels. Логистическая потеря равна

  z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))
= z * -log(1 / (1 + exp(-x))) + (1 - z) * -log(exp(-x) / (1 + exp(-x)))
= z * log(1 + exp(-x)) + (1 - z) * (-log(exp(-x)) + log(1 + exp(-x)))
= z * log(1 + exp(-x)) + (1 - z) * (x + log(1 + exp(-x))
= (1 - z) * x + log(1 + exp(-x))
= x - x * z + log(1 + exp(-x))

Для x < 0, чтобы избежать переполнения в exp(-x), мы переформулируем вышесказанное

  x - x * z + log(1 + exp(-x))
= log(exp(x)) - x * z + log(1 + exp(-x))
= - x * z + log(1 + exp(x))

Поэтому, чтобы обеспечить стабильность и избежать переполнения, в реализации используется это эквивалентное представление

max(x, 0) - x * z + log(1 + exp(-abs(x)))

logits и labels должны иметь одинаковый тип и форму.