tf.compat.v1.train.replica_device_setter

Возвращает device function для использования при построении графа для реплик.

tf.compat.v1.train.replica_device_setter(
    ps_tasks=0, ps_device='/job:ps', worker_device='/job:worker',
    merge_devices=True, cluster=None, ps_ops=None, ps_strategy=None
)

Функции устройства используются в with tf.device(device_function): операторе для автоматического назначения устройств объектам Operation по мере их создания. Ограничения устройств добавляются из внутреннего контекста сначала, работая наружу. Поведение объединения добавляет ограничения к полям, которые еще не установлены более внутренним контекстом. В настоящее время полями являются (job, task, cpu/gpu).

Если cluster равно None, и ps_tasks равно 0, возвращаемая функция является бесполезной операцией. В противном случае, значение ps_tasks выводится из cluster.

По умолчанию только операции переменных размещаются на задачах ps, и стратегия размещения выполняется по круговому циклу по всем задачам ps. Может использоваться пользовательская ps_strategy для более интеллектуального размещения, например tf.contrib.training.GreedyLoadBalancingStrategy.

Например,

# To build a cluster with two ps jobs on hosts ps0 and ps1, and 3 worker
# jobs on hosts worker0, worker1 and worker2.
cluster_spec = {
    "ps": ["ps0:2222", "ps1:2222"],
    "worker": ["worker0:2222", "worker1:2222", "worker2:2222"]}
with
tf.device(tf.compat.v1.train.replica_device_setter(cluster=cluster_spec)):
  # Build your graph
  v1 = tf.Variable(...)  # assigned to /job:ps/task:0
  v2 = tf.Variable(...)  # assigned to /job:ps/task:1
  v3 = tf.Variable(...)  # assigned to /job:ps/task:0
# Run compute