tf.distribute.InputOptions

Параметры выполнения для experimental_distribute_dataset(s_from_function).

tf.distribute.InputOptions(
    experimental_fetch_to_device=None,
    experimental_replication_mode=tf.distribute.InputReplicationMode.PER_WORKER,
    experimental_place_dataset_on_device=False,
    experimental_per_replica_buffer_size=1
)

Используется в ноутбуках

Используется в руководстве	Используется в учебниках
Миграция с TPU embedding_columns на слой TPUEmbedding	TensorFlow 2 TPUEmbeddingLayer: Быстрый старт

Это может использоваться для хранения некоторых конфигураций, специфичных для стратегии.

# Setup TPUStrategy
resolver = tf.distribute.cluster_resolver.TPUClusterResolver(tpu='')
tf.config.experimental_connect_to_cluster(resolver)
tf.tpu.experimental.initialize_tpu_system(resolver)
strategy = tf.distribute.TPUStrategy(resolver)

dataset = tf.data.Dataset.range(16)
distributed_dataset_on_host = (
    strategy.experimental_distribute_dataset(
        dataset,
        tf.distribute.InputOptions(
            experimental_replication_mode=
            experimental_replication_mode.PER_WORKER,
            experimental_place_dataset_on_device=False,
            experimental_per_replica_buffer_size=1)))

Атрибуты
`experimental_fetch_to_device`	Булево. Если True, элементы набора данных будут предварительно загружены в оперативную память устройства акселератора. Если False, элементы набора данных предварительно загружаются в оперативную память хост-устройства. Должно быть False при использовании API TPUEmbedding. experimental_fetch_to_device может использоваться только с experimental_replication_mode=PER_WORKER. По умолчанию поведение такое же, как при установке в True.
`experimental_replication_mode`	Режим репликации для функции ввода. В настоящее время InputReplicationMode.PER_REPLICA поддерживается только с tf.distribute.MirroredStrategy. experimental_distribute_datasets_from_function. Значение по умолчанию — InputReplicationMode.PER_WORKER.
`experimental_place_dataset_on_device`	Булево. По умолчанию False. Если True, набор данных будет размещён на устройстве, в противном случае он останется на хосте. experimental_place_dataset_on_device=True может использоваться только с experimental_replication_mode=PER_REPLICA
`experimental_per_replica_buffer_size`	Целое число. По умолчанию 1. Указывает размер буфера предварительной загрузки в оперативной памяти устройства реплики. Пользователи могут установить его в 0, чтобы полностью отключить поведение предварительной загрузки, или в число, большее 1, чтобы включить больший размер буфера. Обратите внимание, что этот параметр всё ещё действителен с `experimental_fetch_to_device=False`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/InputOptions