Spec-Zone.ru › TensorFlow 2.3 tf.distribute.CrossDeviceOps Базовый класс для алгоритмов кросс-устройства для сокращения и распространения.
tf.distribute.CrossDeviceOps()
Методы batch_reduceПросмотреть исходный код
batch_reduce(
reduce_op, value_destination_pairs, experimental_hints=None
)
Сведение PerReplica объектов в пачке.
Сведение каждого первого элемента в value_destination_pairs к каждому второму элементу, указывающему на назначения.
Это может быть быстрее, чем несколько отдельных reduceов, потому что мы можем объединить несколько тензоров в один или несколько пакетов перед сокращением.
Аргументы reduce_op Экземпляр tf.distribute.ReduceOpper_replica_value.
value_destination_pairs Список или кортеж PerReplica объектов (или тензоров с установленным устройством, если есть одно устройство) и назначений.
experimental_hints tf.distrbute.experimental.CollectiveHints. Указания для выполнения коллективных операций.
Возвращаемое значение список объектов Mirrored.
Исключения ValueError если value_destination_pairs не является итерируемым кортежем PerReplica объектов и назначений.
batch_reduce_implementationПросмотреть исходный код
batch_reduce_implementation(
reduce_op, value_destination_pairs, experimental_hints
)
Реализация сведения PerReplica объектов в пачке.
Переопределение этого метода полезно для разработчиков подклассов.
Сведение каждого первого элемента в value_destination_pairs к каждому второму элементу, указывающему на назначения.
Аргументы reduce_op Экземпляр tf.distribute.ReduceOp
value_destination_pairs Итерируемый набор кортежей PerReplica объектов (или тензоров с установленным устройством, если есть одно устройство) и назначений.
experimental_hints tf.distrbute.experimental.CollectiveHints. Указания для выполнения коллективных операций.
Возвращаемое значение список объектов Mirrored.
Исключения ValueError если value_destination_pairs не является итерируемым кортежем PerReplica объектов и назначений
broadcastПросмотреть исходный код
broadcast(
tensor, destinations
)
Распространение tensor на назначения.
Аргументы tensor тензор для распространения.
destinations назначения для распространения.
Возвращаемое значение объект Mirrored.
broadcast_implementationПросмотреть исходный код
broadcast_implementation(
tensor, destinations
)
Реализация распространения tensor на назначения.
Аргументы tensor тензор для распространения.
destinations назначения для распространения.
Возвращаемое значение объект Mirrored.
reduceПросмотреть исходный код
reduce(
reduce_op, per_replica_value, destinations, experimental_hints=None
)
Сведение per_replica_value к destinations.
Выполняет операцию сведения, определенную reduce_op, и помещает результат в destinations.
Аргументы reduce_op Экземпляр tf.distribute.ReduceOp
per_replica_value Объект tf.distribute.DistributedValues
destinations назначения для сокращения.
experimental_hints tf.distrbute.experimental.CollectiveHints. Указания для выполнения коллективных операций.
Возвращаемое значение объект Mirrored.
Исключения ValueError если per_replica_value нельзя преобразовать в объект PerReplica или если назначения не являются строками, переменными или DistributedValues
reduce_implementationПросмотреть исходный код
reduce_implementation(
reduce_op, per_replica_value, destinations, experimental_hints
)
Реализация сведения per_replica_value к destinations.
Переопределение этого метода полезно для разработчиков подклассов.
Выполняет операцию сведения, определенную reduce_op, и помещает результат в destinations.
Аргументы reduce_op Экземпляр tf.distribute.ReduceOp
per_replica_value Объект PerReplica или тензор с заданным устройством.
destinations назначения для сокращения.
experimental_hints tf.distrbute.experimental.CollectiveHints. Указания для выполнения коллективных операций.
Возвращаемое значение объект Mirrored.
Исключения ValueError если per_replica_value нельзя преобразовать в объект PerReplica.
