tf.raw_ops.ExperimentalAutoShardDataset
Создаёт набор данных, фрагментирующий входной набор данных.
tf.raw_ops.ExperimentalAutoShardDataset(
input_dataset, num_workers, index, output_types, output_shapes,
auto_shard_policy=0, name=None
)
Создаёт набор данных, фрагментирующий входной набор данных по числу рабочих процессов num_workers, возвращая фрагментированный набор данных для рабочего процесса с индексом index. Это пытается автоматически разбить набор данных, исследуя граф набора данных и вставляя операцию фрагментации перед входными данными в набор данных-читатель (например, CSVDataset, TFRecordDataset).
Этот набор данных выбросит ошибку NotFound, если мы не сможем автоматически фрагментировать набор данных.
| Аргументы | |
|---|---|
input_dataset | Tensor типа variant. Значение, представляющее входной набор данных в виде варианта тензора. |
num_workers | Tensor типа int64. Значение скаляра, представляющее число рабочих процессов для распределения этого набора данных. |
index | Tensor типа int64. Значение скаляра, представляющее индекс текущего рабочего процесса из числа рабочих процессов num_workers. |
output_types | Список tf.DTypes, длина которого равна >= 1. |
output_shapes | Список форм (каждая — tf.TensorShape или список ints), длина которого равна >= 1. |
auto_shard_policy | Необязательный int. По умолчанию 0. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Tensor типа variant. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/ExperimentalAutoShardDataset