tf.distribute.cluster_resolver.ClusterResolver

Абстрактный класс для всех реализаций ClusterResolvers.

Это определяет каркас для всех реализаций ClusterResolvers. ClusterResolvers — это способ, с помощью которого TensorFlow может взаимодействовать с различными системами управления кластерами (например, GCE, AWS и т. д.) и предоставляет TensorFlow необходимую информацию для настройки распределенного обучения.

Благодаря взаимодействию TensorFlow с этими системами мы сможем автоматически обнаруживать и разрешать IP-адреса для различных рабочих узлов TensorFlow. В конечном итоге это позволит нам автоматически восстанавливаться после сбоев на машинах и масштабировать кластеры рабочих узлов TensorFlow вверх и вниз.

Примечание для разработчиков, реализующих подкласс tf.distribute.cluster_resolver.ClusterResolver: помимо этих абстрактных методов, когда атрибуты task_type, task_id и rpc_layer применимы, вы также должны реализовать их либо как свойства с методами получения или установки, либо непосредственно задать атрибуты self._task_type, self._task_id или self._rpc_layer, чтобы использовались методы получения и установки базового класса. См. tf.distribute.clusterresolver.SimpleClusterResolver.init_ для примера.

В общем случае стратегии tf.distribute с несколькими клиентами, такие как tf.distribute.experimental.MultiWorkerMirroredStrategy, требуют, чтобы свойства task_type и task_id были доступны в используемых ими ClusterResolver. С другой стороны, эти понятия не применимы в стратегиях с одним клиентом, таких как tf.distribute.experimental.TPUStrategy, так как ожидается, что программа будет выполняться только на одном задании, поэтому не должно быть необходимости иметь ветви кода в зависимости от типа и идентификатора задания.

• task_type — это имя текущей именованной задачи сервера (например, «worker», «ps» в задаче распределенного параметрического обучения).
• task_id — это порядковый индекс сервера в рамках типа задачи.
• rpc_layer — это протокол, используемый TensorFlow для взаимодействия с другими серверами TensorFlow в распределенной среде.

cluster_spec = tf.train.ClusterSpec({
    "ps": ["localhost:2222", "localhost:2223"],
    "worker": ["localhost:2224", "localhost:2225", "localhost:2226"]
})

# SimpleClusterResolver is used here for illustration; other cluster
# resolvers may be used for other source of task type/id.
simple_resolver = SimpleClusterResolver(cluster_spec, task_type="worker",
                                        task_id=0)

...

if cluster_resolver.task_type == 'worker' and cluster_resolver.task_id == 0:
  # Perform something that's only applicable on 'worker' type, id 0. This
  # block will run on this particular instance since we've specified this
  # task to be a 'worker', id 0 in above cluster resolver.
else:
  # Perform something that's only applicable on other ids. This block will
  # not run on this particular instance.

cluster_spec = tf.train.ClusterSpec({
    "ps": ["localhost:2222", "localhost:2223"],
    "worker": ["localhost:2224", "localhost:2225", "localhost:2226"]
})

# SimpleClusterResolver is used here for illustration; other cluster
# resolvers may be used for other source of task type/id.
simple_resolver = SimpleClusterResolver(cluster_spec, task_type="worker",
                                        task_id=1)

...

if cluster_resolver.task_type == 'worker':
  # Perform something that's only applicable on workers. This block
  # will run on this particular instance since we've specified this task to
  # be a worker in above cluster resolver.
elif cluster_resolver.task_type == 'ps':
  # Perform something that's only applicable on parameter servers. This
  # block will not run on this particular instance.

Методы

cluster_spec

Посмотреть исходный код

@abc.abstractmethod
cluster_spec()

Получает текущее состояние кластера и возвращает tf.train.ClusterSpec.

Разработчики этой функции должны позаботиться о том, чтобы возвращаемый ClusterSpec был актуальным на момент вызова функции. Это обычно означает получение информации из базовой системы управления кластером каждый раз при вызове функции и построение cluster_spec заново, а не попытку кэширования чего-либо.

master

Посмотреть исходный код

@abc.abstractmethod
master(
    task_type=None, task_id=None, rpc_layer=None
)

Получает имя или URL сеанса мастер-узла.

Примечание: это полезно только для TensorFlow 1.x.

Разработчики этой функции должны позаботиться о том, чтобы возвращаемый мастер-узел был актуальным на момент вызова функции. Это обычно означает получение мастер-узла каждый раз при вызове функции.

num_accelerators

Посмотреть исходный код

num_accelerators(
    task_type=None, task_id=None, config_proto=None
)

Возвращает количество ускорительных ядер на рабочий узел.

Возвращает количество ускорительных ядер (таких как GPU и TPU) на рабочий узел.

По желанию, мы позволяем вызывающим сторонам указывать task_type и task_id, если они хотят нацелиться на определенную задачу TensorFlow для запроса количества ускорителей. Это поддерживает разнородные среды, где количество ускорительных ядер на хост различается.