tf.raw_ops.ParallelInterleaveDatasetV3
Создаёт набор данных, применяющий f к результатам input_dataset.
tf.raw_ops.ParallelInterleaveDatasetV3(
input_dataset,
other_arguments,
cycle_length,
block_length,
num_parallel_calls,
f,
output_types,
output_shapes,
deterministic='default',
metadata='',
name=None
)
Полученный набор данных похож на InterleaveDataset, за исключением того, что набор данных будет извлекать записи из интерлинованных наборов данных параллельно.
API Python tf.data создаёт экземпляры этого оператора из Dataset.interleave(), когда параметр num_parallel_calls этого метода установлен на любое значение, отличное от None.
По умолчанию вывод этого набора данных будет детерминированным, что может привести к блокировке набора данных, если следующий элемент данных для возврата недоступен. Для предотвращения блокировки по принципу "первый пришёл - первый обслужен" можно либо установить атрибут deterministic в "false", либо оставить его по умолчанию и установить параметр experimental_deterministic tf.data.Options в False. Это может повысить производительность за счёт недетерминированности.
| Аргументы | |
|---|---|
input_dataset | Tensor типа variant. Набор данных, генерирующий поток аргументов для функции f. |
other_arguments | Список объектов Tensor. Дополнительные аргументы для передачи функции f помимо тех, которые генерируются input_dataset. Оценивается один раз при создании набора данных. |
cycle_length | Tensor типа int64. Количество наборов данных (каждый создаётся путём применения f к элементам input_dataset), между которыми цикл ParallelInterleaveDatasetV2 будет выполняться по кругу. |
block_length | Tensor типа int64. Количество элементов за раз, генерируемых каждым интерлинованным вызовом набора данных, возвращаемого f. |
num_parallel_calls | Tensor типа int64. Определяет количество потоков, которые должны использоваться для параллельного извлечения данных из входных наборов данных. Постоянная API Python tf.data.experimental.AUTOTUNE может использоваться для указания того, что уровень параллелизма должен быть настроен автоматически. |
f | Функция, декорированная @Defun. Функция, отображающая элементы input_dataset, соединённые с other_arguments, в вариант набора данных, содержащий элементы, соответствующие output_types и output_shapes. |
output_types | Список tf.DTypes длиной >= 1. |
output_shapes | Список форм (каждая — tf.TensorShape или список ints) длиной >= 1. |
deterministic | Необязательное string. По умолчанию "default". Строка, указывающая используемый детерминизм на уровне оператора. Детерминизм управляет тем, разрешено ли возвращение элементов интерлинованным оператором вне порядка, если следующий возвращаемый элемент недоступен, но доступен последующий. Допустимые значения: "true", "false" и "default". "default" указывает, что детерминизм должен быть определён параметром experimental_deterministic tf.data.Options. |
metadata | Необязательное string. По умолчанию "". |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Tensor типа variant. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/ParallelInterleaveDatasetV3