Модуль: tf.distribute

Публичный API для пространства имён tf._api.v2.distribute

Модули

cluster_resolver модуль: публичный API для пространства имён tf._api.v2.distribute.cluster_resolver

coordinator модуль: публичный API для пространства имён tf._api.v2.distribute.coordinator

experimental модуль: публичный API для пространства имён tf._api.v2.distribute.experimental

Классы

class CrossDeviceOps: Базовый класс для алгоритмов межустройственного сокращения и широковещательной рассылки.

class DistributedDataset: Представляет набор данных, распределённый между устройствами и машинами.

class DistributedIterator: Итератор по tf.distribute.DistributedDataset.

class DistributedValues: Базовый класс для представления распределённых значений.

class HierarchicalCopyAllReduce: Иерархическая реализация копирования и операции all-reduce для CrossDeviceOps.

class InputContext: Класс, содержащий информацию, необходимую входной функции.

class InputOptions: Параметры выполнения для experimental_distribute_dataset(s_from_function).

class InputReplicationMode: Режим репликации для входной функции.

class MirroredStrategy: Синхронное обучение на нескольких репликах одной машины.

class MultiWorkerMirroredStrategy: Стратегия распределения для синхронного обучения на нескольких рабочих узлах.

class NcclAllReduce: Реализация операции all-reduce NCCL для CrossDeviceOps.

class OneDeviceStrategy: Стратегия распределения для выполнения на одном устройстве.

class ParameterServerStrategy: Стратегия tf.distribute для нескольких рабочих узлов с серверами параметров.

class ReduceOp: Определяет способ сокращения набора значений.

class ReductionToOneDevice: Реализация CrossDeviceOps, копирующая значения на одно устройство для их сокращения.

class ReplicaContext: Класс с набором API, которые можно вызывать в контексте реплики.

class RunOptions: Параметры выполнения для strategy.run.

class Server: Сервер TensorFlow, работающий в том же процессе; используется для распределённого обучения.

class Strategy: Политика распределения состояния и вычислений между списком устройств.

class StrategyExtended: Дополнительные API для алгоритмов, учитывающих распределённую среду.

class TPUStrategy: Синхронное обучение на TPU и в TPU Pods.

Функции

experimental_set_strategy(...): Назначает tf.distribute.Strategy текущей стратегией без with strategy.scope().

get_replica_context(...): Возвращает текущий tf.distribute.ReplicaContext или None.

get_strategy(...): Возвращает текущий объект tf.distribute.Strategy.

has_strategy(...): Возвращает, используется ли текущая стратегия tf.distribute.Strategy, отличная от стратегии по умолчанию.

in_cross_replica_context(...): Возвращает True, если вызвана в контексте межрепличной синхронизации.