tf.raw_ops.AutoShardDataset
Создает набор данных, разделяющий входной набор данных на фрагменты.
tf.raw_ops.AutoShardDataset(
input_dataset,
num_workers,
index,
output_types,
output_shapes,
auto_shard_policy=0,
num_replicas=0,
name=None
)
Создает набор данных, разделяющий входной набор данных на фрагменты по числу рабочих процессов и возвращающий разделенный набор данных для рабочего процесса с указанным индексом. Предпринимается попытка автоматически разделить набор данных путем анализа графа Dataset и вставки операции shard перед входными данными Dataset-ридера (например, CSVDataset, TFRecordDataset).
Этот набор данных выдаст ошибку NotFound, если автоматически разделить набор данных не удастся.
| Аргументы | |
|---|---|
input_dataset | Tensor типа variant. Тензор variant, представляющий входной набор данных. |
num_workers | Tensor типа int64. Скаляр, представляющий количество рабочих процессов, между которыми распределяется этот набор данных. |
index | Tensor типа int64. Скаляр, представляющий индекс текущего рабочего процесса среди num_workers. |
output_types | Список tf.DTypes длиной >= 1. |
output_shapes | Список форм (каждая — tf.TensorShape или список ints) длиной >= 1. |
auto_shard_policy | Необязательный int. По умолчанию — 0. |
num_replicas | Необязательный int. По умолчанию — 0. |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Tensor типа variant. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/AutoShardDataset