tf.raw_ops.NcclAllReduce
Выводит тензор, содержащий результат сокращения по всем входным тензорам.
tf.raw_ops.NcclAllReduce(
input, reduction, num_devices, shared_name, name=None
)
Выводит тензор, содержащий результат сокращения по всем входным тензорам, переданным операциям в рамках одного `shared_name.
Граф должен быть построен таким образом, чтобы, если один оператор выполняется со значением `shared_name` c, тогда num_devices операторы будут выполняться со значением `shared_name` c. Несоблюдение этого требования приведет к тому, что выполнение графа не завершится.
input: входные данные для сокращения данных: значение сокращения по всем num_devices устройствам. reduction: операция сокращения, которую нужно выполнить. num_devices: Количество устройств, участвующих в этом сокращении. shared_name: Идентификатор, общий для операций одного и того же сокращения.
| Аргументы | |
|---|---|
input | A Tensor. Должен быть одним из следующих типов: half, float32, float64, int32, int64. |
reduction | A string из: "min", "max", "prod", "sum". |
num_devices | An int. |
shared_name | A string. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
A Tensor. Имеет тот же тип, что и input. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/raw_ops/NcclAllReduce