tf.random.learned_unigram_candidate_sampler

Выборка набора классов из распределения, обученного во время обучения.

tf.random.learned_unigram_candidate_sampler(
    true_classes, num_true, num_sampled, unique, range_max, seed=None, name=None
)

Эта операция случайным образом выбирает тензор выборочных классов (sampled_candidates) из диапазона целых чисел [0, range_max).

Элементы sampled_candidates выбираются без повторения (если unique=True) или с повторением (если unique=False) из базового распределения.

Базовое распределение для этой операции строится на лету во время обучения. Это распределение униграмм по целевым классам, встречавшимся до этого момента во время обучения. Каждое целое число в [0, range_max) начинается с веса 1 и увеличивается на 1 каждый раз, когда оно встречается как целевой класс. Базовое распределение не сохраняется в контрольных точках, поэтому оно сбрасывается при перезагрузке модели.

Кроме того, эта операция возвращает тензоры true_expected_count и sampled_expected_count, представляющие количество раз, когда каждый из целевых классов (true_classes) и выборочных классов (sampled_candidates) ожидается в среднем тензоре выборочных классов. Эти значения соответствуют Q(y|x), определенному в этом документе. Если unique=True, тогда это вероятности после отбраковки, и мы вычисляем их приближенно.