tf.raw_ops.NcclAllReduce
Выводит тензор, содержащий результат сокращения по всем входным тензорам.
tf.raw_ops.NcclAllReduce(
input, reduction, num_devices, shared_name, name=None
)
Выводит тензор, содержащий результат сокращения по всем входным тензорам, переданным операциям в рамках одного `shared_name`.
Граф должен быть построен таким образом, что если один оператор выполняется со значением `shared_name` c, то num_devices операции будут выполняться со значением `shared_name` c. Несоблюдение этого требования приведет к тому, что выполнение графа завершится неудачей.
input: входные данные для сокращения; data: значение сокращения по всем num_devices устройствам; reduction: операция сокращения, которую необходимо выполнить; num_devices: количество устройств, участвующих в этом сокращении; shared_name: идентификатор, общий для операций одного сокращения.
| Аргументы | |
|---|---|
input | A Tensor. Должен быть одним из следующих типов: half, float32, float64, int32, int64. |
reduction | A string из: "min", "max", "prod", "sum". |
num_devices | An int. |
shared_name | A string. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
A Tensor. Имеет тот же тип, что и input. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/NcclAllReduce