tf.raw_ops.ParallelInterleaveDatasetV3
Создаёт набор данных, который применяет f к результатам input_dataset.
tf.raw_ops.ParallelInterleaveDatasetV3(
input_dataset, other_arguments, cycle_length, block_length, num_parallel_calls,
f, output_types, output_shapes, deterministic='default', name=None
)
Полученный набор данных похож на InterleaveDataset, за исключением того, что набор данных будет извлекать записи из переплетённых наборов данных параллельно.
Python-API tf.data создаёт экземпляры этого оператора из Dataset.interleave(), когда параметр num_parallel_calls этого метода установлен на любое значение, отличное от None.
По умолчанию вывод этого набора данных будет детерминированным, что может привести к блокировке набора данных, если следующий элемент данных для возврата недоступен. Для избежания блокировки по принципу «первым пришёл — первым обслужен» можно либо установить атрибут deterministic в «false», либо оставить его по умолчанию и установить параметр experimental_deterministic tf.data.Options в False. Это может улучшить производительность за счёт недетерминированности.
| Аргументы | |
|---|---|
input_dataset | Tensor типа variant. Набор данных, генерирующий поток аргументов для функции f. |
other_arguments | Список объектов Tensor. Дополнительные аргументы для передачи функции f помимо тех, что генерируются input_dataset. Вычисляются один раз при создании набора данных. |
cycle_length | Tensor типа int64. Количество наборов данных (каждый создан путём применения f к элементам input_dataset) среди которых ParallelInterleaveDatasetV2 будет циклически переключаться в режиме круговой очереди. |
block_length | Tensor типа int64. Количество элементов, генерируемых одновременно из каждого переплетённого вызова набора данных, возвращаемого f. |
num_parallel_calls | Tensor типа int64. Определяет количество потоков, которые должны использоваться для параллельного извлечения данных из входных наборов данных. Постоянная Python-API tf.data.experimental.AUTOTUNE может использоваться для указания того, что уровень параллелизма должен настраиваться автоматически. |
f | Функция, декорированная @Defun. Функция, отображающая элементы input_dataset, соединённые с other_arguments, на вариант набора данных, содержащий элементы, соответствующие output_types и output_shapes. |
output_types | Список tf.DTypes, длина которого равна >= 1. |
output_shapes | Список форм (каждая — tf.TensorShape или список ints) длиной >= 1. |
deterministic | Необязательный string. По умолчанию "default". Строка, указывающая уровень детерминированности на уровне оператора. Детерминированность контролирует, разрешено ли возвращать элементы из переплетённого набора данных в неупорядоченном порядке, если следующий элемент для возврата недоступен, но позже появляется доступный элемент. Доступные варианты: "true", "false" и "default". "default" указывает, что детерминированность должна определяться параметром experimental_deterministic tf.data.Options. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Tensor типа variant. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/ParallelInterleaveDatasetV3