Модуль: tf.distribute

Общедоступный API для пространства имен tf._api.v2.distribute

Модули

cluster_resolver модуль: Общедоступный API для пространства имен tf._api.v2.distribute.cluster_resolver

coordinator модуль: Общедоступный API для пространства имен tf._api.v2.distribute.coordinator

experimental модуль: Общедоступный API для пространства имен tf._api.v2.distribute.experimental

Классы

class CrossDeviceOps: Базовый класс для алгоритмов кросс-устройства (cross-device) для сокращения (reduction) и трансляции (broadcasting).

class DistributedDataset: Представляет набор данных, распределенных между устройствами и машинами.

class DistributedIterator: Итератор по tf.distribute.DistributedDataset.

class DistributedValues: Базовый класс для представления распределённых значений.

class HierarchicalCopyAllReduce: Реализация иерархического копирования все-редукции (Hierarchical copy all-reduce) для CrossDeviceOps.

class InputContext: Класс, содержащий информацию, необходимую функции ввода.

class InputOptions: Параметры выполнения для experimental_distribute_dataset(s_from_function).

class InputReplicationMode: Режим репликации для функции ввода.

class MirroredStrategy: Синхронное обучение на нескольких репликах на одной машине.

class MultiWorkerMirroredStrategy: Стратегия распределения для синхронного обучения на нескольких рабочих узлах.

class NcclAllReduce: Реализация NCCL all-reduce для CrossDeviceOps.

class OneDeviceStrategy: Стратегия распределения для работы на одном устройстве.

class ParameterServerStrategy: Стратегия tf.distribute для многоузлового обучения с параметровыми серверами.

class ReduceOp: Указывает, как набор значений должен быть уменьшен.

class ReductionToOneDevice: Реализация CrossDeviceOps, которая копирует значения на одно устройство для уменьшения.

class ReplicaContext: Класс с набором API, которые могут быть вызваны в контексте реплики.

class RunOptions: Параметры выполнения для strategy.run.

class Server: Внутрипроцессный сервер TensorFlow для использования в распределенном обучении.

class Strategy: Политика распределения состояния и вычислений на списке устройств.

class StrategyExtended: Дополнительные API для алгоритмов, которые должны быть распределённо-ориентированными.

class TPUStrategy: Синхронное обучение на TPUs и TPU Pods.

Функции

experimental_set_strategy(...): Установить tf.distribute.Strategy как текущий без with strategy.scope().

get_replica_context(...): Возвращает текущий tf.distribute.ReplicaContext или None.

get_strategy(...): Возвращает текущий объект tf.distribute.Strategy.

has_strategy(...): Возвращает значение, указывающее на наличие текущей не по умолчанию tf.distribute.Strategy.

in_cross_replica_context(...): Возвращает значение True, если находится в контексте кросс-реплики.