tf.random.fixed_unigram_candidate_sampler
| Просмотреть исходный код на GitHub |
Выборка набора классов с использованием предоставленного (фиксированного) базового распределения.
tf.random.fixed_unigram_candidate_sampler(
true_classes, num_true, num_sampled, unique, range_max, vocab_file='',
distortion=1.0, num_reserved_ids=0, num_shards=1, shard=0, unigrams=(),
seed=None, name=None
)
Эта операция случайным образом выбирает тензор выборочных классов (sampled_candidates) из диапазона целых чисел [0, range_max).
Элементы sampled_candidates выбираются без замены (если unique=True) или с заменой (если unique=False) из базового распределения.
Базовое распределение считывается из файла или передается как массив в памяти. Также есть возможность исказить распределение, применив степень искажения к весам.
Кроме того, эта операция возвращает тензоры true_expected_count и sampled_expected_count, представляющие количество раз, когда каждый из целевых классов (true_classes) и выбранных классов (sampled_candidates) ожидается в среднем тензоре выборочных классов. Эти значения соответствуют Q(y|x), определенному в этом документе. Если unique=True, тогда это пост-отклоняемые вероятности, и мы вычисляем их приблизительно.
| Аргументы | |
|---|---|
true_classes |
A Tensor типа int64 и формы [batch_size, num_true]. Целевые классы. |
num_true |
An int. Количество целевых классов на пример обучения. |
num_sampled |
An int. Количество классов для случайной выборки. |
unique |
A bool. Определяет, являются ли все выбранные классы в пакете уникальными. |
range_max |
An int. Количество возможных классов. |
vocab_file |
Каждая допустимая строка в этом файле (которая должна иметь формат типа CSV) соответствует допустимому идентификатору слова. Идентификаторы расположены в последовательном порядке, начиная с num_reserved_ids. Ожидается, что последняя запись в каждой строке будет значением, соответствующим счету или относительной вероятности. Необходимо передать ровно один из vocab_file и unigrams в эту операцию. |
distortion |
Искажение используется для искажения униграммного распределения вероятностей. Сначала каждый вес возводится в степень искажения, прежде чем добавляться к внутреннему униграммному распределению. В результате, distortion = 1.0 дает обычную выборку униграмм (как определено файлом словаря), а distortion = 0.0 дает равномерное распределение. |
num_reserved_ids |
Пользователи могут дополнительно добавить некоторые зарезервированные идентификаторы в диапазоне [0, num_reserved_ids). Одним из случаев использования является использование специального маркера неизвестного слова в качестве идентификатора 0. У этих идентификаторов будет нулевая вероятность выборки. |
num_shards |
Сэмплер может использоваться для выборки из подмножества исходного диапазона для ускорения всего вычисления параллелизмом. Этот параметр (вместе с shard) указывает количество разделений, используемых в общем вычислении. |
shard |
Сэмплер может использоваться для выборки из подмножества исходного диапазона для ускорения всего вычисления параллелизмом. Этот параметр (вместе с num_shards) указывает конкретный номер раздела операции при использовании разбиения. |
unigrams |
Список подсчетов или вероятностей униграмм, по одному на каждый идентификатор в последовательном порядке. Необходимо передать ровно один из vocab_file и unigrams в эту операцию. |
seed |
An int. Семена, специфичные для операции. По умолчанию 0. |
name |
Имя операции (необязательно). |
| Возвращаемые значения | |
|---|---|
sampled_candidates |
A тензор типа int64 и формы [num_sampled]. Выбранные классы. |
true_expected_count |
A тензор типа float. Такая же форма, как у true_classes. Ожидаемые счеты по распределению выборки каждого из true_classes. |
sampled_expected_count |
A тензор типа float. Такая же форма, как у sampled_candidates. Ожидаемые счеты по распределению выборки каждого из sampled_candidates. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/random/fixed_unigram_candidate_sampler