tf.raw_ops.ExperimentalAutoShardDataset
Создает набор данных, который разбивает входной набор данных на шарды.
tf.raw_ops.ExperimentalAutoShardDataset(
input_dataset,
num_workers,
index,
output_types,
output_shapes,
auto_shard_policy=0,
name=None
)
Создает набор данных, который разбивает входной набор данных на num_workers шардов и возвращает шардированный набор данных для рабочего процесса с индексом index. Выполняется попытка автоматически разделить набор данных на шарды путем анализа графа Dataset и вставки операции shard перед входными данными набора данных-считывателя (например, CSVDataset, TFRecordDataset).
Этот набор данных вызовет ошибку NotFound, если автоматически разделить набор данных на шарды не удастся.
| Аргументы | |
|---|---|
input_dataset | Объект Tensor типа variant. Тензор variant, представляющий входной набор данных. |
num_workers | Объект Tensor типа int64. Скаляр, представляющий количество рабочих процессов, между которыми распределяется этот набор данных. |
index | Объект Tensor типа int64. Скаляр, представляющий индекс текущего рабочего процесса среди num_workers. |
output_types | Список объектов tf.DTypes длиной >= 1. |
output_shapes | Список форм (каждая из которых является tf.TensorShape или списком ints) длиной >= 1. |
auto_shard_policy | Необязательный объект int. По умолчанию — 0. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Объект Tensor типа variant. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/ExperimentalAutoShardDataset