tf.compat.v1.nn.ctc_loss

Вычисляет потерю CTC (Connectionist Temporal Classification).

tf.compat.v1.nn.ctc_loss(
    labels, inputs=None, sequence_length=None, preprocess_collapse_repeated=False,
    ctc_merge_repeated=True, ignore_longer_outputs_than_inputs=False,
    time_major=True, logits=None
)

Этот оператор реализует потерю CTC, как представлено в (Graves et al., 2006).

Требования к вводу:

sequence_length(b) <= time for all b

max(labels.indices(labels.indices[:, 1] == b, 2))
  <= sequence_length(b) for all b.

Примечания:

Этот класс выполняет для вас операцию softmax, поэтому входные данные должны быть, например, линейными проекциями выходов LSTM.

Размер внутреннего измерения тензора inputs, num_classes, представляет num_labels + 1 классы, где num_labels — количество истинных меток, а наибольшее значение (num_classes - 1) зарезервировано для метки пробела.

Например, для словаря, содержащего 3 метки [a, b, c], num_classes = 4 и индексации меток {a: 0, b: 1, c: 2, blank: 3}.

Что касается аргументов preprocess_collapse_repeated и ctc_merge_repeated:

Если preprocess_collapse_repeated имеет значение True, то перед вычислением потери выполняется предварительная обработка, в которой повторяющиеся метки, переданные в потерю, объединяются в одну метку. Это полезно, если метки обучения получены, например, из принудительных выравниваний, и поэтому содержат ненужные повторения.

Если ctc_merge_repeated установлено в значение False, то глубоко внутри вычисления CTC повторяющиеся метки, не являющиеся метками пробела, не будут объединены и интерпретируются как отдельные метки. Это упрощенная (нестандартная) версия CTC.

Вот таблица (приблизительного) ожидаемого поведения первого порядка:

• preprocess_collapse_repeated=False, ctc_merge_repeated=True

  Классическое поведение CTC: Выводит истинные повторяющиеся классы с пробелами между ними и также может выводить повторяющиеся классы без пробелов между ними, которые должны быть объединены декодером.

• preprocess_collapse_repeated=True, ctc_merge_repeated=False

  Никогда не учится выводить повторяющиеся классы, так как они объединяются в метках входных данных перед обучением.

• preprocess_collapse_repeated=False, ctc_merge_repeated=False

  Выводит повторяющиеся классы с пробелами между ними, но, как правило, не требует от декодера объединения/слияния повторяющихся классов.

• preprocess_collapse_repeated=True, ctc_merge_repeated=True

  Не протестировано. Очень вероятно, что не будет учиться выводить повторяющиеся классы.

Опция ignore_longer_outputs_than_inputs позволяет указать поведение CTCLoss при работе со последовательностями, которые имеют более длинные выводы, чем входные данные. Если True, CTCLoss просто возвращает нулевой градиент для этих элементов, в противном случае возвращается ошибка InvalidArgument, останавливая обучение.

Ссылки:

Connectionist Temporal Classification - Разметка неразделенных последовательностей данных с помощью рекуррентных нейронных сетей: Graves et al., 2006 (pdf)