tf.experimental.dtensor.create_distributed_mesh
Создаёт одно- или многоклиентную сеть.
tf.experimental.dtensor.create_distributed_mesh(
mesh_dims: List[Tuple[str, int]],
mesh_name: str = '',
num_global_devices: Optional[int] = None,
num_clients: Optional[int] = None,
client_id: Optional[int] = None,
device_type: str = 'CPU'
) -> tf.experimental.dtensor.Mesh
Для сетей CPU и GPU пользователи могут выбрать использование меньшего числа локальных устройств, чем доступно. Если какой-либо аргумент отсутствует, он будет извлечён из переменных окружения. Значения по умолчанию для этих переменных окружения создают сеть, использующую все устройства (часто используется для юнит-тестов).
Для сетей TPU пользователи не должны указывать никакие из аргументов с типом nullable. Движок DTensor автоматически установит эти аргументы, используя все доступные ядра TPU во всем кластере.
| Аргументы | |
|---|---|
mesh_dims | Список кортежей (имя_размера, размер_размера). |
mesh_name | Имя создаваемой сети. По умолчанию — ''. |
num_global_devices | Количество устройств в кластере DTensor. По умолчанию соответствует соответствующей переменной окружения. |
num_clients | Количество клиентов в кластере DTensor. По умолчанию соответствует переменной окружения DTENSOR_NUM_CLIENTS. |
client_id | ID этого клиента. По умолчанию соответствует переменной окружения DTENSOR_CLIENT_ID. |
device_type | Тип устройства, для которого должна быть построена сеть. По умолчанию — 'CPU'. |
| Возвращаемое значение | |
|---|---|
| Созданная сеть, созданная на основе указанных или значений по умолчанию. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/experimental/dtensor/create_distributed_mesh