tf.distribute.experimental.CommunicationImplementation
Реализация межпроцессорной связи.
-
AUTO: Автоматически выбирается TensorFlow. -
RING: Алгоритмы TensorFlow для ring-алгоритмов all-reduce и all-gather. -
NCCL: Библиотека NVIDIA® NCCL. В настоящее время используется только для all-reduce на GPU; для all-reduce на CPU, all-gather и broadcast используется падение на RING.
| Переменные класса | |
|---|---|
| AUTO | <CommunicationImplementation.AUTO: 'AUTO'> |
| NCCL | <CommunicationImplementation.NCCL: 'NCCL'> |
| RING | <CommunicationImplementation.RING: 'RING'> |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/experimental/CommunicationImplementation