tf.distribute.InputOptions
Параметры запуска для experimental_distribute_dataset(s_from_function).
tf.distribute.InputOptions(
experimental_fetch_to_device=None,
experimental_replication_mode=tf.distribute.InputReplicationMode.PER_WORKER,
experimental_place_dataset_on_device=False,
experimental_per_replica_buffer_size=1
)
Используется в блокнотах
| Используется в руководстве | Используется в учебных материалах |
|---|---|
Этот объект можно использовать для хранения некоторых конфигураций, специфичных для стратегии.
# Setup TPUStrategy
resolver = tf.distribute.cluster_resolver.TPUClusterResolver(tpu='')
tf.config.experimental_connect_to_cluster(resolver)
tf.tpu.experimental.initialize_tpu_system(resolver)
strategy = tf.distribute.TPUStrategy(resolver)
dataset = tf.data.Dataset.range(16)
distributed_dataset_on_host = (
strategy.experimental_distribute_dataset(
dataset,
tf.distribute.InputOptions(
experimental_replication_mode=
experimental_replication_mode.PER_WORKER,
experimental_place_dataset_on_device=False,
experimental_per_replica_buffer_size=1)))
| Атрибуты | |
|---|---|
experimental_fetch_to_device | Булево значение. Если True, элементы набора данных предварительно загружаются в память устройства-ускорителя. Если False, элементы набора данных предварительно загружаются в память хост-устройства. При использовании API TPUEmbedding должно быть установлено значение False. experimental_fetch_to_device можно использовать только с experimental_replication_mode=PER_WORKER. Поведение по умолчанию соответствует значению True. |
experimental_replication_mode | Режим репликации для входной функции. В настоящее время InputReplicationMode.PER_REPLICA поддерживается только с tf.distribute.MirroredStrategy.experimental_distribute_datasets_from_function. Значение по умолчанию — InputReplicationMode.PER_WORKER. |
experimental_place_dataset_on_device | Булево значение. По умолчанию False. Если установлено значение True, набор данных размещается на устройстве, в противном случае он остается на хосте. experimental_place_dataset_on_device=True можно использовать только с experimental_replication_mode=PER_REPLICA |
experimental_per_replica_buffer_size | Целое число. По умолчанию 1. Задает размер буфера предварительной загрузки в памяти устройства реплики. Пользователи могут задать значение 0, чтобы полностью отключить предварительную загрузку, или значение больше 1, чтобы увеличить размер буфера. Обратите внимание, что этот параметр также применим при использовании experimental_fetch_to_device=False. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/InputOptions