tf.distribute.cluster_resolver.SimpleClusterResolver
Простое реализация ClusterResolver, принимающая все атрибуты.
Наследуется от: ClusterResolver
tf.distribute.cluster_resolver.SimpleClusterResolver(
cluster_spec,
master='',
task_type=None,
task_id=None,
environment='',
num_accelerators=None,
rpc_layer=None
)
Используется в блокнотах
| Используется в учебниках |
|---|
Обратитесь к базовому классу за документацией по аргументам его конструктора.
Полезно, если вы хотите указать некоторые или все атрибуты.
Пример использования с tf.distribute.Strategy:
cluster = tf.train.ClusterSpec({"worker": ["worker0.example.com:2222",
"worker1.example.com:2222"]})
# On worker 0
cluster_resolver = SimpleClusterResolver(cluster, task_type="worker",
task_id=0,
num_accelerators={"GPU": 8},
rpc_layer="grpc")
strategy = tf.distribute.experimental.MultiWorkerMirroredStrategy(
cluster_resolver=cluster_resolver)
# On worker 1
cluster_resolver = SimpleClusterResolver(cluster, task_type="worker",
task_id=1,
num_accelerators={"GPU": 8},
rpc_layer="grpc")
strategy = tf.distribute.experimental.MultiWorkerMirroredStrategy(
cluster_resolver=cluster_resolver)
| Атрибуты | |
|---|---|
environment | Возвращает текущую среду, в которой выполняется TensorFlow. Возможны два возвращаемых значения: "google" (когда TensorFlow выполняется во внутренней среде Google) или пустая строка (когда TensorFlow выполняется где-либо еще). Если вы реализуете ClusterResolver, который работает как в среде Google, так и в открытом источнике (например, TPU ClusterResolver или аналогичный), вам нужно будет вернуть соответствующую строку в зависимости от среды, которую вам нужно будет определить. В противном случае, если вы реализуете ClusterResolver, который будет работать только в открытой TensorFlow, вам не нужно реализовывать этот свойство. |
rpc_layer | |
task_id | Возвращает идентификатор задачи, указанный этим ClusterResolver. В среде распределённого TensorFlow каждая задача может иметь соответствующий идентификатор задачи, который является индексом экземпляра в его типе задачи. Это полезно, когда пользователю нужно выполнить определенный код в соответствии с индексом задачи. Например, cluster_spec = tf.train.ClusterSpec({
"ps": ["localhost:2222", "localhost:2223"],
"worker": ["localhost:2224", "localhost:2225", "localhost:2226"]
})
# SimpleClusterResolver is used here for illustration; other cluster
# resolvers may be used for other source of task type/id.
simple_resolver = SimpleClusterResolver(cluster_spec, task_type="worker",
task_id=0)
...
if cluster_resolver.task_type == 'worker' and cluster_resolver.task_id == 0:
# Perform something that's only applicable on 'worker' type, id 0. This
# block will run on this particular instance since we've specified this
# task to be a 'worker', id 0 in above cluster resolver.
else:
# Perform something that's only applicable on other ids. This block will
# not run on this particular instance.
Возвращает Дополнительная информация представлена в документации класса |
task_type | Возвращает тип задачи, указанный этим ClusterResolver. В распределённой среде TensorFlow каждая задача может иметь соответствующий тип задачи. Допустимые типы задач в TensorFlow включают 'chief': рабочий элемент, которому поручено больше ответственности, 'worker': обычный рабочий элемент для обучения/оценки, 'ps': сервер параметров или 'evaluator': элемент оценки, оценивающий контрольные точки по метрикам. См. Конфигурацию многозадачного обучения для получения более подробной информации о типах задач 'chief' и 'worker', которые наиболее часто используются. Доступ к такой информации полезен, когда пользователю нужно выполнить определенный код в соответствии с типами задач. Например, cluster_spec = tf.train.ClusterSpec({
"ps": ["localhost:2222", "localhost:2223"],
"worker": ["localhost:2224", "localhost:2225", "localhost:2226"]
})
# SimpleClusterResolver is used here for illustration; other cluster
# resolvers may be used for other source of task type/id.
simple_resolver = SimpleClusterResolver(cluster_spec, task_type="worker",
task_id=1)
...
if cluster_resolver.task_type == 'worker':
# Perform something that's only applicable on workers. This block
# will run on this particular instance since we've specified this task to
# be a worker in above cluster resolver.
elif cluster_resolver.task_type == 'ps':
# Perform something that's only applicable on parameter servers. This
# block will not run on this particular instance.
Возвращает Дополнительная информация представлена в документации класса |
Методы
cluster_spec
cluster_spec()
Возвращает ClusterSpec, переданный в конструктор.
master
master(
task_type=None, task_id=None, rpc_layer=None
)
Возвращает адрес главного узла для создания сессии.
Примечание: это полезно только для TensorFlow 1.x.
| Аргументы | |
|---|---|
task_type | (Необязательно) Тип задачи TensorFlow главного узла. |
task_id | (Необязательно) Индекс задачи TensorFlow главного узла. |
rpc_layer | (Необязательно) Используемый RPC распределённым TensorFlow. |
| Возвращаемое значение | |
|---|---|
| Имя или URL главного узла сессии. |
Если заданы task_type и task_id, это переопределит строку master, переданную в функцию инициализации.
num_accelerators
num_accelerators(
task_type=None, task_id=None, config_proto=None
)
Возвращает количество ускорительных ядер на рабочий узел.
SimpleClusterResolver не выполняет автоматическое обнаружение ускорителей, и поэтому все аргументы не используются, и мы просто возвращаем значение, предоставленное в конструкторе.
| Аргументы | |
|---|---|
task_type | Не используется. |
task_id | Не используется. |
config_proto | Не используется. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/distribute/cluster_resolver/SimpleClusterResolver