tf.experimental.dtensor.create_distributed_mesh

Создаёт распределённую сетку.

tf.experimental.dtensor.create_distributed_mesh(
    mesh_dims: Union[List[Tuple[str, int]], Dict[str, int]],
    mesh_name: str = '',
    local_devices: Optional[List[Union[tf_device.DeviceSpec, str]]] = None,
    device_type: Optional[str] = None,
    use_xla_spmd: bool = layout.USE_XLA_SPMD
) -> tf.experimental.dtensor.Mesh

Это аналогично create_mesh, но с разным набором аргументов для создания сетки, которая равномерно охватывает многоклиентский кластер DTensor.

Для сеток CPU и GPU пользователи могут выбрать использование меньшего количества локальных устройств, чем доступно local_devices.

Для TPU DTensor-среда поддерживает только сетки, использующие все ядра TPU.

Args
`mesh_dims`	Словарь вида dim_name: dim_size или список кортежей (dim_name, dim_size). Например, `{'x' : 4, 'y' : 1}` или `[('x', 4), ('y', 1)]`.
`mesh_name`	Имя создаваемой сетки. По умолчанию равно ''.
`local_devices`	Строковые представления устройств для использования. Это часть tf.DeviceSpec, например, 'CPU:0'. По умолчанию используется все доступные локальные логические устройства.
`device_type`	Тип устройства для построения сетки. По умолчанию 'CPU'. Поддерживаемые значения: 'CPU', 'GPU', 'TPU'.6
`use_xla_spmd`	Булево значение. Если True, будет использоваться XLA SPMD вместо DTensor SPMD.

Возвращаемые значения
Сетка, которая равномерно охватывает все клиенты DTensor в кластере.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/experimental/dtensor/create_distributed_mesh