tf.raw_ops.NcclAllReduce
Выводит тензор, содержащий результат сокращения по всем входным тензорам.
tf.raw_ops.NcclAllReduce(
input, reduction, num_devices, shared_name, name=None
)
Выводит тензор, содержащий результат сокращения по всем входным тензорам, переданным операциям в рамках одного `shared_name`.
Граф должен быть построен так, что если один оператор выполняется со значением shared_name c, то операторы num_devices будут выполняться со значением shared_name c. Несоблюдение этого условия приведет к тому, что выполнение графа не завершится.
input: входные данные для сокращения data: значение сокращения по всем num_devices устройствам. reduction: операция сокращения, которую необходимо выполнить. num_devices: количество устройств, участвующих в этом сокращении. shared_name: идентификатор, общий для операций одного сокращения.
| Аргументы | |
|---|---|
input | A Tensor. Должен быть одним из следующих типов: half, float32, float64, int32, int64. |
reduction | A string от: "min", "max", "prod", "sum". |
num_devices | An int. |
shared_name | A string. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
A Tensor. Имеет тот же тип, что и input. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/NcclAllReduce
