tf.distribute.InputOptions

Параметры выполнения для experimental_distribute_dataset(s_from_function).

tf.distribute.InputOptions(
    experimental_fetch_to_device=None,
    experimental_replication_mode=tf.distribute.InputReplicationMode.PER_WORKER,
    experimental_place_dataset_on_device=False,
    experimental_per_replica_buffer_size=1
)

Это может быть использовано для хранения некоторых конфигураций, специфичных для стратегии.

# Setup TPUStrategy
resolver = tf.distribute.cluster_resolver.TPUClusterResolver(tpu='')
tf.config.experimental_connect_to_cluster(resolver)
tf.tpu.experimental.initialize_tpu_system(resolver)
strategy = tf.distribute.TPUStrategy(resolver)

dataset = tf.data.Dataset.range(16)
distributed_dataset_on_host = (
    strategy.experimental_distribute_dataset(
        dataset,
        tf.distribute.InputOptions(
            experimental_replication_mode=
            experimental_replication_mode.PER_WORKER,
            experimental_place_dataset_on_device=False,
            experimental_per_replica_buffer_size=1)))

Атрибуты
`experimental_fetch_to_device`	Булево. Если True, элементы набора данных будут предварительно загружены в память устройства ускорителя. Когда False, элементы набора данных предварительно загружаются в память хост-устройства. Должно быть False при использовании API TPUEmbedding. experimental_fetch_to_device может быть использован только с experimental_replication_mode=PER_WORKER. По умолчанию поведение такое же, как если бы оно было установлено в True.
`experimental_replication_mode`	Режим репликации для функции ввода. В настоящее время InputReplicationMode.PER_REPLICA поддерживается только с tf.distribute.MirroredStrategy. experimental_distribute_datasets_from_function. Значение по умолчанию — InputReplicationMode.PER_WORKER.
`experimental_place_dataset_on_device`	Булево. По умолчанию False. Если True, набор данных будет размещён на устройстве, иначе он останется на хосте. experimental_place_dataset_on_device=True может быть использован только с experimental_replication_mode=PER_REPLICA
`experimental_per_replica_buffer_size`	Целое число. По умолчанию 1. Указывает размер буфера предварительной загрузки в памяти устройства реплики. Пользователи могут установить его в 0, чтобы полностью отключить поведение предварительной загрузки, или в число больше 1, чтобы включить больший размер буфера. Обратите внимание, что этот параметр всё ещё действует с `experimental_fetch_to_device=False`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/distribute/InputOptions