tf.raw_ops.EnqueueTPUEmbeddingSparseBatch
Операция, добавляющая входные индексы TPUEmbedding из SparseTensor в очередь.
tf.raw_ops.EnqueueTPUEmbeddingSparseBatch(
sample_indices,
embedding_indices,
aggregation_weights,
mode_override,
device_ordinal=-1,
combiners=[],
name=None
)
Эта операция упрощает перенос кода, использующего embedding_lookup_sparse(), однако для подготовки аргументов этой операции необходимо предварительно обработать аргументы SparseTensor для embedding_lookup_sparse() с помощью Python, поскольку на каждом шаге обучения допускается только одна операция EnqueueTPUEmbeddingSparseBatch.
Тензоры в соответствующих позициях трех входных списков должны иметь одинаковую форму, то есть ранг 1, а dim_size() должен быть равен общему количеству обращений к таблице, описанной соответствующим table_id.
| Аргументы | |
|---|---|
sample_indices | Список как минимум из 1 объекта Tensor с одинаковым типом в: int32, int64. Список тензоров ранга 1, задающих обучающий пример и признак, которым принадлежат соответствующие значения embedding_indices и aggregation_weights. sample_indices[i] должно быть равно b * nf + f, где nf — количество признаков из соответствующей таблицы, f находится в диапазоне [0, nf), а b — в диапазоне [0, batch size). |
embedding_indices | Список объектов Tensor той же длины, что и sample_indices, с одинаковым типом в: int32, int64. Список тензоров ранга 1, содержащих индексы в таблицах эмбеддингов. |
aggregation_weights | Список объектов Tensor той же длины, что и sample_indices, с одинаковым типом в: float32, float64. Список тензоров ранга 1, содержащих веса агрегации для каждого примера — то есть для каждой пары (обучающий пример, признак). |
mode_override | Tensor типа string. Строковое входное значение, переопределяющее режим, заданный в TPUEmbeddingConfiguration. Поддерживаемые значения: {'unspecified', 'inference', 'training', 'backward_pass_only'}. Если задано значение 'unspecified', используется режим, указанный в TPUEmbeddingConfiguration; в противном случае используется mode_override. |
device_ordinal | Необязательный int. По умолчанию — -1. Используемое устройство TPU. Значение должно быть не меньше 0 и меньше числа ядер TPU в задаче, на которой размещен узел. |
combiners | Необязательный список strings. По умолчанию — []. Список строковых скаляров, по одному для каждой таблицы эмбеддингов, задающих способ нормализации активаций эмбеддингов после взвешенного суммирования. Поддерживаются комбинаторы 'mean', 'sum' и 'sqrtn'. Для 'mean' сумма весов не должна быть равна 0, а для 'sqrtn' сумма квадратов весов не должна быть равна 0. Если combiners не передан, для всех таблиц по умолчанию используется 'sum'. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
| Созданный объект Operation. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/EnqueueTPUEmbeddingSparseBatch