tf.nn.sigmoid_cross_entropy_with_logits

Вычисляет кросс-энтропию сигмоиды, учитывая logits.

tf.nn.sigmoid_cross_entropy_with_logits(
    labels=None, logits=None, name=None
)

Измеряет ошибку вероятности в задачах дискретного классифицирования, в которых каждый класс независим и не взаимоисключающий. Например, можно выполнить многоклассовую классификацию, где изображение может содержать и слона, и собаку одновременно.

Для краткости, пусть x = logits, z = labels. Логистическая потеря равна

  z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))
= z * -log(1 / (1 + exp(-x))) + (1 - z) * -log(exp(-x) / (1 + exp(-x)))
= z * log(1 + exp(-x)) + (1 - z) * (-log(exp(-x)) + log(1 + exp(-x)))
= z * log(1 + exp(-x)) + (1 - z) * (x + log(1 + exp(-x))
= (1 - z) * x + log(1 + exp(-x))
= x - x * z + log(1 + exp(-x))

Для x < 0, чтобы избежать переполнения в exp(-x), мы переформулируем вышесказанное

  x - x * z + log(1 + exp(-x))
= log(exp(x)) - x * z + log(1 + exp(-x))
= - x * z + log(1 + exp(x))

Следовательно, для обеспечения устойчивости и предотвращения переполнения, в реализации используется эквивалентная формулировка

max(x, 0) - x * z + log(1 + exp(-abs(x)))

logits и labels должны иметь одинаковый тип и форму.