tf.distribute.experimental.CommunicationImplementation
Реализация межпроцессорной коммуникации.
-
AUTO: Автоматически выбирается TensorFlow. -
RING: Алгоритмы TensorFlow для all-reduce и all-gather. -
NCCL: Библиотека NVIDIA® NCCL. В настоящее время используется только для all-reduce на GPU; all-reduce на CPU, all-gather и broadcast используют fallback RING.
| Переменные класса | |
|---|---|
| AUTO | tf.distribute.experimental.CommunicationImplementation |
| NCCL | tf.distribute.experimental.CommunicationImplementation |
| RING | tf.distribute.experimental.CommunicationImplementation |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/distribute/experimental/CommunicationImplementation