tf.distribute.ReductionToOneDevice
Сначала выполняется редукция к одному устройству, а затем — вещание.
Наследуется от: CrossDeviceOps
tf.distribute.ReductionToOneDevice(
reduce_to_device=None, accumulation_fn=None
)
Сводка по партиям выполняется редукцией каждого элемента по одному.
| Аргументы |
reduce_to_device | промежуточное устройство, к которому нужно выполнить редукцию. Если None, редукция выполняется к первому устройству в destinations метода reduce(). |
accumulation_fn | функция, выполняющая накопление. Если None, используется tf.math.add_n. |
Методы
batch_reduce
Просмотреть исходный код
batch_reduce(
reduce_op, value_destination_pairs
)
Редукция объектов PerReplica в наборе.
Каждая первая часть в value_destination_pairs сводится к каждому второму элементу, который указывает пункты назначения.
| Аргументы |
reduce_op | Указывает, как будет выполняться редукция per_replica_value. Допустимые значения — tf.distribute.ReduceOp.SUM, tf.distribute.ReduceOp.MEAN. |
value_destination_pairs | список или кортеж кортежей объектов PerReplica (или тензоров с заданным устройством, если существует одно устройство) и пунктов назначения. |
| Возвращает |
| список объектов Mirrored. |
| Возможные исключения |
ValueError | если value_destination_pairs не является списком или кортежем кортежей объектов PerReplica и пунктов назначения |
broadcast
Просмотреть исходный код
broadcast(
tensor, destinations
)
Вещание tensor в пункты назначения.
| Аргументы |
tensor | тензор для вещания. |
destinations | пункты назначения для вещания. |
| Возвращает |
| объект Mirrored. |
reduce
Просмотреть исходный код
reduce(
reduce_op, per_replica_value, destinations
)
Редукция per_replica_value к destinations.
Выполняется операция редукции, определенная в reduce_op, и результат помещается в destinations.
| Аргументы |
reduce_op | Указывает, как будет выполняться редукция per_replica_value. Допустимые значения — tf.distribute.ReduceOp.SUM, tf.distribute.ReduceOp.MEAN. |
per_replica_value | объект PerReplica или тензор с заданным устройством. |
destinations | пункты назначения для редукции. |
| Возвращает |
| объект Mirrored. |
| Возможные исключения |
ValueError | если per_replica_value нельзя преобразовать в объект PerReplica. |