tf.keras.distribution.DataParallel

Распределение для параллельной обработки данных.

tf.keras.distribution.DataParallel(
    device_mesh=None, devices=None
)

Вы можете создать этот экземпляр, указав аргументы device_mesh или devices (но не оба).

Ожидается, что аргумент device_mesh будет экземпляром DeviceMesh, и он должен быть одномерным. В случае, если сетка имеет несколько осей, первая ось будет рассматриваться как ось параллельной обработки данных (и будет выведено предупреждение).

Если предоставляется список devices, они будут использоваться для построения одномерной сетки.

Если отсутствуют как mesh, так и devices, то list_devices() будет использоваться для обнаружения доступных устройств и создания одномерной сетки из них.

Аргументы
`device_mesh`	Необязательный экземпляр `DeviceMesh`.
`devices`	Необязательный список устройств.

Атрибуты
`device_mesh`

Методы

`distribute_dataset`

Просмотреть исходный код

distribute_dataset(
    dataset
)

Создать экземпляр распределённого набора данных из исходного набора данных пользователя.

Аргументы
`dataset`	исходный глобальный экземпляр набора данных. В данный момент поддерживается только `tf.data.Dataset`.

Возвращает
фрагментированный `tf.data.Dataset` экземпляр, который будет генерировать данные для текущего локального рабочего процесса/процесса.

`get_data_layout`

Просмотреть исходный код

get_data_layout(
    data_shape
)

Получить TensorLayout для входных данных.

Аргументы
`data_shape`	форма входных данных в формате списка или кортежа.

Возвращает
`TensorLayout` для данных, который можно использовать `backend.distribute_value()` для перераспределения входных данных.

`get_tensor_layout`

Просмотреть исходный код

get_tensor_layout(
    path
)

Получить TensorLayout для промежуточного тензора.

Аргументы
`path`	строковый путь к соответствующему тензору.

возвращает: TensorLayout для промежуточного тензора, который можно использовать backend.relayout() для повторного фрагментирования тензора. Также может вернуть None.

`get_variable_layout`

Просмотреть исходный код

get_variable_layout(
    variable
)

Получить TensorLayout для переменной.

Аргументы
`variable`	Экземпляр `KerasVariable`.

возвращает: TensorLayout для переменной, который можно использовать backend.distribute_value() для перераспределения переменной.

`scope`

Просмотреть исходный код

@contextlib.contextmanager
scope()

Контекстный менеджер, чтобы сделать Distribution текущим.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/distribution/DataParallel