tf.distribute.experimental.CommunicationImplementation
Реализация взаимодействия между устройствами.
-
AUTO: выбирается автоматически TensorFlow. -
RING: кольцевые алгоритмы TensorFlow для all-reduce и all-gather. -
NCCL: библиотека NCCL от NVIDIA®. Теперь она используется только для all-reduce на графических процессорах; операции all-reduce на центральном процессоре, all-gather и broadcast переключаются на RING.
| Переменные класса | |
|---|---|
| AUTO | <CommunicationImplementation.AUTO: 'AUTO'> |
| NCCL | <CommunicationImplementation.NCCL: 'NCCL'> |
| RING | <CommunicationImplementation.RING: 'RING'> |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/experimental/CommunicationImplementation
