Модуль: tf.contrib.distribute

Библиотека распределённых вычислений для TF.

См. tensorflow/contrib/distribute/README.md для обзора и примеров.

Классы

class AllReduceCrossDeviceOps: Сведение с помощью all-reduce.

class CollectiveAllReduceStrategy: Стратегия распределения, использующая коллективные операции для all-reduce.

class CrossDeviceOps: Базовый класс для межпроцессорных алгоритмов сведения и трансляции.

class DistributeConfig: Кортеж конфигурации для стратегий распределения.

class DistributionStrategy: Список устройств с политикой распределения состояния и вычислений.

class MirroredStrategy: Зеркалирует переменные для распределения по нескольким устройствам и машинам.

class Monitor: Выполняет шаги обучения, восстанавливает и создаёт контрольные точки.

class MultiWorkerAllReduce: Алгоритмы all-reduce для распределённого TensorFlow.

class OneDeviceStrategy: Стратегия распределения для выполнения на одном устройстве.

class ParameterServerStrategy: Стратегия распределения сервера параметров.

class ReplicaContext: API tf.distribute.Strategy при работе в контексте реплики.

class StandardInputStep: Шаг со стандартной реализацией обработки входных данных.

class StandardSingleLossStep: Функция шага, реализующая шаг обучения для нейронной сети прямого распространения.

class Step: Интерфейс для выполнения каждого шага алгоритма обучения.

class TPUStrategy: Реализация стратегии распределения TPU.

class UpdateContext: Контекстный менеджер, когда вы находитесь в update() или update_non_slot().

Функции

get_cross_replica_context(...): Возвращает текущую стратегию tf.distribute, если в контексте кросс-реплик.

get_distribution_strategy(...): Возвращает текущий объект tf.distribute.Strategy.

get_loss_reduction(...): tf.distribute.ReduceOp, соответствующий последнему уменьшению потери.

get_replica_context(...): Возвращает текущий tf.distribute.ReplicaContext или None.

get_strategy(...): Возвращает текущий объект tf.distribute.Strategy.

has_distribution_strategy(...): Возвращает true, если существует текущая не по умолчанию tf.distribute.Strategy.

has_strategy(...): Возвращает true, если существует текущая не по умолчанию tf.distribute.Strategy.

in_cross_replica_context(...): Возвращает True если в контексте кросс-реплик.

initialize_tpu_system(...): Инициализирует устройства TPU.

require_replica_context(...): Проверка в replica_ctx контексте реплики.

run_standard_tensorflow_server(...): Запускает стандартный сервер TensorFlow.