tf.distribute.ReductionToOneDevice

Реализация CrossDeviceOps, которая копирует значения на одно устройство для их сведения.

Наследуется от: CrossDeviceOps

Просмотреть псевдонимы

Псевдонимы для совместимости при миграции

Подробнее см. в руководстве по миграции.

tf.compat.v1.distribute.ReductionToOneDevice

tf.distribute.ReductionToOneDevice(
    reduce_to_device=None, accumulation_fn=None
)

Эта реализация всегда копирует значения на одно устройство для их сведения, а затем передает сведенные значения адресатам. Она не поддерживает эффективную пакетную обработку.

Вот как можно использовать ReductionToOneDevice в tf.distribute.MirroredStrategy:

strategy = tf.distribute.MirroredStrategy(
  cross_device_ops=tf.distribute.ReductionToOneDevice())

Аргументы
`reduce_to_device`	промежуточное устройство, на которое выполняется сведение. Если значение равно None, сведение выполняется на первом устройстве в `destinations` метода `reduce`.
`accumulation_fn`	функция накопления. Если значение равно None, используется `tf.math.add_n`.

Методы

`batch_reduce`

Просмотреть исходный код

batch_reduce(
    reduce_op, value_destination_pairs, options=None
)

Сводит значения к адресатам пакетами.

См. tf.distribute.StrategyExtended.batch_reduce_to. Этот метод можно вызывать только в контексте между репликами.

Аргументы
`reduce_op`	`tf.distribute.ReduceOp`, определяющий способ объединения значений.
`value_destination_pairs`	последовательность пар (значение, адресаты). Описания см. в разделе `tf.distribute.CrossDeviceOps.reduce`.
`options`	объект `tf.distribute.experimental.CommunicationOptions`. Подробности см. в разделе `tf.distribute.experimental.CommunicationOptions`.

Возвращаемое значение
Список объектов `tf.Tensor` или `tf.distribute.DistributedValues`, по одному для каждой пары в `value_destination_pairs`.

Исключения
`ValueError`	если `value_destination_pairs` не является итерируемым объектом, содержащим кортежи из `tf.distribute.DistributedValues` и адресатов.

`broadcast`

Просмотреть исходный код

broadcast(
    tensor, destinations
)

Передает tensor в destinations.

Этот метод можно вызывать только в контексте между репликами.

Аргументы

tensor объект типа tf.Tensor. Значение, которое нужно передать.

destinations объект tf.distribute.DistributedValues, tf.Variable, объект типа tf.Tensor или строка с именем устройства. Определяет устройства, на которые нужно передать значение. Обратите внимание: если это tf.Variable, значение передается на устройства этой переменной; этот метод не обновляет переменную.

Аргументы
`tensor`	объект типа `tf.Tensor`. Значение, которое нужно передать.
`destinations`	объект `tf.distribute.DistributedValues`, `tf.Variable`, объект типа `tf.Tensor` или строка с именем устройства. Определяет устройства, на которые нужно передать значение. Обратите внимание: если это `tf.Variable`, значение передается на устройства этой переменной; этот метод не обновляет переменную.

Возвращаемое значение
Объект `tf.Tensor` или `tf.distribute.DistributedValues`.

`reduce`

Просмотреть исходный код

reduce(
    reduce_op, per_replica_value, destinations, options=None
)

Сводит per_replica_value к destinations.

См. tf.distribute.StrategyExtended.reduce_to. Этот метод можно вызывать только в контексте между репликами.

Аргументы
`reduce_op`	`tf.distribute.ReduceOp`, определяющий способ объединения значений.
`per_replica_value`	объект `tf.distribute.DistributedValues` или объект типа `tf.Tensor`.
`destinations`	объект `tf.distribute.DistributedValues`, `tf.Variable`, объект типа `tf.Tensor` или строка с именем устройства. Определяет устройства, на которые выполняется сведение. Чтобы выполнить all-reduce, передайте одно и то же значение в `value` и `destinations`. Обратите внимание: если это `tf.Variable`, сведение выполняется на устройствах этой переменной, но этот метод не обновляет переменную.
`options`	объект `tf.distribute.experimental.CommunicationOptions`. Подробности см. в разделе `tf.distribute.experimental.CommunicationOptions`.

Возвращаемое значение
Объект `tf.Tensor` или `tf.distribute.DistributedValues`.

Исключения
`ValueError`	если per_replica_value нельзя преобразовать в `tf.distribute.DistributedValues` или если destinations не является строкой, `tf.Variable` либо `tf.distribute.DistributedValues`.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/ReductionToOneDevice