tf.DeviceSpec

Представляет (возможно, частичное) описание устройства TensorFlow.

tf.DeviceSpec(
    job=None, replica=None, task=None, device_type=None, device_index=None
)

DeviceSpec используются по всему TensorFlow для описания места хранения состояния и выполнения вычислений. Использование DeviceSpec позволяет анализировать строки описания устройства для проверки их правильности, объединения или программированного составления.

Пример:

# Place the operations on device "GPU:0" in the "ps" job.
device_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
with tf.device(device_spec.to_string()):
  # Both my_var and squared_var will be placed on /job:ps/device:GPU:0.
  my_var = tf.Variable(..., name="my_variable")
  squared_var = tf.square(my_var)

При отключенном выполнении с нетерпением (по умолчанию в TensorFlow 1.x и вызовом disable_eager_execution() в TensorFlow 2.x), можно использовать следующий синтаксис:

tf.compat.v1.disable_eager_execution()

# Same as previous
device_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
# No need of .to_string() method.
with tf.device(device_spec):
  my_var = tf.Variable(..., name="my_variable")
  squared_var = tf.square(my_var)
 ```

If a `DeviceSpec` is partially specified, it will be merged with other
`DeviceSpec`s according to the scope in which it is defined. `DeviceSpec`
components defined in inner scopes take precedence over those defined in
outer scopes.

```python
gpu0_spec = DeviceSpec(job="ps", device_type="GPU", device_index=0)
with tf.device(DeviceSpec(job="train").to_string()):
  with tf.device(gpu0_spec.to_string()):
    # Nodes created here will be assigned to /job:ps/device:GPU:0.
  with tf.device(DeviceSpec(device_type="GPU", device_index=1).to_string()):
    # Nodes created here will be assigned to /job:train/device:GPU:1.

DeviceSpec состоит из 5 компонентов — каждый из которых можно указать необязательно:

• Job: Имя задания.
• Replica: Индекс реплики.
• Task: Индекс задачи.
• Тип устройства: Строка типа устройства (например, "CPU" или "GPU").
• Индекс устройства: Индекс устройства.

Методы

from_string

Просмотреть исходный код

@classmethod
from_string(
    spec
)

Создать DeviceSpec из строки.

make_merged_spec

Просмотреть исходный код

make_merged_spec(
    dev
)

Возвращает новый DeviceSpec, который включает в себя dev.

При объединении спецификаций dev будет иметь приоритет над текущей спецификацией. Например:

first_spec = tf.DeviceSpec(job=0, device_type="CPU")
second_spec = tf.DeviceSpec(device_type="GPU")
combined_spec = first_spec.make_merged_spec(second_spec)

эквивалентно:

combined_spec = tf.DeviceSpec(job=0, device_type="GPU")

parse_from_string

Просмотреть исходный код

parse_from_string(
    spec
)

Разбор имени DeviceSpec на составляющие.

Изменение поведения в 2.x: В TensorFlow 1.x эта функция изменяет свое собственное состояние и возвращает себя. В 2.x DeviceSpec неизменяемы, и эта функция вернет DeviceSpec, содержащий спецификацию.

Рекомендуется:

# my_spec and my_updated_spec are unrelated.
my_spec = tf.DeviceSpec.from_string("/CPU:0")
my_updated_spec = tf.DeviceSpec.from_string("/GPU:0")
with tf.device(my_updated_spec):
  ...

Будет работать в 1.x и 2.x (хотя устарело в 2.x):

my_spec = tf.DeviceSpec.from_string("/CPU:0")
my_updated_spec = my_spec.parse_from_string("/GPU:0")
with tf.device(my_updated_spec):
  ...

НЕ будет работать в 2.x:

my_spec = tf.DeviceSpec.from_string("/CPU:0")
my_spec.parse_from_string("/GPU:0")  # <== Will not update my_spec
with tf.device(my_spec):
  ...

В общем случае DeviceSpec.from_string должен полностью заменить DeviceSpec.parse_from_string, а DeviceSpec.replace должен полностью заменить непосредственное задание атрибутов.

replace

Просмотреть исходный код

replace(
    **kwargs
)

Удобный метод для создания нового DeviceSpec путем переопределения полей.

Например:

my_spec = DeviceSpec=(job="my_job", device="CPU")
my_updated_spec = my_spec.replace(device="GPU")
my_other_spec = my_spec.replace(device=None)

to_string

Просмотреть исходный код

to_string()

Возвращает строковое представление этого DeviceSpec.

__eq__

Просмотреть исходный код

__eq__(
    other
)

Проверяет, является ли other DeviceSpec таким же, как текущий экземпляр, т.е. имеют

одинаковые значения для всех внутренних полей.