tf.DeviceSpec

Представляет собой (возможно, частичное) описание устройства TensorFlow.

tf.DeviceSpec(
    job=None, replica=None, task=None, device_type=None, device_index=None
)

DeviceSpec используются по всему TensorFlow для описания места хранения состояния и выполнения вычислений. Использование DeviceSpec позволяет анализировать строки описания устройств для проверки их валидности, объединять их или комбинировать программно.

Пример:

# Place the operations on device "GPU:0" in the "ps" job.
device_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
with tf.device(device_spec.to_string()):
  # Both my_var and squared_var will be placed on /job:ps/device:GPU:0.
  my_var = tf.Variable(..., name="my_variable")
  squared_var = tf.square(my_var)

При отключённом режиме жадного выполнения (по умолчанию в TensorFlow 1.x и с помощью вызова disable_eager_execution() в TensorFlow 2.x) можно использовать следующий синтаксис:

tf.compat.v1.disable_eager_execution()

# Same as previous
device_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
# No need of .to_string() method.
with tf.device(device_spec):
  my_var = tf.Variable(..., name="my_variable")
  squared_var = tf.square(my_var)

Если DeviceSpec указано частично, оно будет объединено с другими DeviceSpec в соответствии со областью, в которой оно определено. DeviceSpec компоненты, определённые во внутренних областях, имеют приоритет перед компонентами, определёнными во внешних областях.

gpu0_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
with tf.device(DeviceSpec(job="train").to_string()):
  with tf.device(gpu0_spec.to_string()):
    # Nodes created here will be assigned to /job:ps/device:GPU:0.
  with tf.device(DeviceSpec(device_type="GPU", device_index=1).to_string()):
    # Nodes created here will be assigned to /job:train/device:GPU:1.

DeviceSpec состоит из 5 компонентов — каждый из которых можно указать необязательно:

• Job: Имя задания.
• Replica: Индекс реплики.
• Task: Индекс задачи.
• Тип устройства: Строка типа устройства (например, "CPU" или "GPU").
• Индекс устройства: Индекс устройства.

Методы

from_string

Просмотреть исходный код

@classmethod
from_string(
    spec
)

Создаёт DeviceSpec из строки.

make_merged_spec

Просмотреть исходный код

make_merged_spec(
    dev
)

Возвращает новый DeviceSpec, который включает dev.

При объединении спецификаций dev будет иметь приоритет над текущей спецификацией. Например:

first_spec = tf.DeviceSpec(job=0, device_type="CPU")
second_spec = tf.DeviceSpec(device_type="GPU")
combined_spec = first_spec.make_merged_spec(second_spec)

эквивалентно:

combined_spec = tf.DeviceSpec(job=0, device_type="GPU")

parse_from_string

Просмотреть исходный код

parse_from_string(
    spec
)

Разбирает имя DeviceSpec на его составляющие.

Изменение поведения в 2.x:

В TensorFlow 1.x эта функция изменяет собственное состояние и возвращает себя. В 2.x DeviceSpec неизменяемы, и эта функция вернёт DeviceSpec, содержащий спецификацию.

• Рекомендуется:

  # my_spec and my_updated_spec are unrelated.
  my_spec = tf.DeviceSpec.from_string("/CPU:0")
  my_updated_spec = tf.DeviceSpec.from_string("/GPU:0")
  with tf.device(my_updated_spec):
    ...
  

• Будет работать в 1.x и 2.x (хотя устарело в 2.x):

  my_spec = tf.DeviceSpec.from_string("/CPU:0")
  my_updated_spec = my_spec.parse_from_string("/GPU:0")
  with tf.device(my_updated_spec):
    ...
  

• Не будет работать в 2.x:

  my_spec = tf.DeviceSpec.from_string("/CPU:0")
  my_spec.parse_from_string("/GPU:0")  # <== Will not update my_spec
  with tf.device(my_spec):
    ...
  

В общем случае, DeviceSpec.from_string должно полностью заменить DeviceSpec.parse_from_string, а DeviceSpec.replace — установить атрибуты напрямую.

replace

Просмотреть исходный код

replace(
    **kwargs
)

Удобный метод для создания нового DeviceSpec путём перезаписи полей.

Например:

my_spec = DeviceSpec=(job="my_job", device="CPU")
my_updated_spec = my_spec.replace(device="GPU")
my_other_spec = my_spec.replace(device=None)

to_string

Просмотреть исходный код

to_string()

Возвращает строковое представление этого DeviceSpec.

__eq__

Просмотреть исходный код

__eq__(
    other
)

Проверяет, совпадает ли DeviceSpec other с текущим экземпляром, т.е. имеет ли

одинаковые значения для всех внутренних полей.