tf.keras.distribution.DataParallel

Распределение данных для параллельной обработки.

tf.keras.distribution.DataParallel(
    device_mesh=None, devices=None
)

Этот экземпляр можно создать, указав аргумент device_mesh или devices (но не оба одновременно).

В качестве аргумента device_mesh ожидается экземпляр DeviceMesh, причём он должен быть одномерным. Если сетка содержит несколько осей, первая ось будет считаться измерением параллельного распределения данных (при этом будет выдано предупреждение).

Если передан список devices, он будет использован для создания одномерной сетки.

Если аргументы mesh и devices отсутствуют, list_devices() обнаружит доступные устройства и создаст на их основе одномерную сетку.

Аргументы
`device_mesh`	Необязательный экземпляр `DeviceMesh`.
`devices`	Необязательный список устройств.

Атрибуты
`device_mesh`

Методы

`distribute_dataset`

Посмотреть исходный код

distribute_dataset(
    dataset
)

Создаёт распределённый экземпляр набора данных на основе исходного набора данных пользователя.

Аргументы
`dataset`	Исходный глобальный экземпляр набора данных. В данный момент поддерживается только `tf.data.Dataset`.

Возвращаемое значение
Фрагментированный экземпляр `tf.data.Dataset`, который будет предоставлять данные для текущего локального рабочего процесса или процесса.

`get_data_layout`

Посмотреть исходный код

get_data_layout(
    data_shape
)

Получает TensorLayout входных данных.

Аргументы
`data_shape`	Форма входных данных в виде списка или кортежа.

Возвращаемое значение
`TensorLayout` данных, который можно использовать в `backend.distribute_value()` для перераспределения входных данных.

`get_tensor_layout`

Посмотреть исходный код

get_tensor_layout(
    path
)

Получает TensorLayout промежуточного тензора.

Аргументы
`path`	Строковый путь к соответствующему тензору.

возвращает: TensorLayout промежуточного тензора, которое можно использовать в backend.relayout() для повторного распределения тензора. Также может вернуть None.

`get_variable_layout`

Посмотреть исходный код

get_variable_layout(
    variable
)

Получает TensorLayout переменной.

Аргументы
`variable`	Экземпляр `KerasVariable`.

возвращает: TensorLayout переменной, которое можно использовать в backend.distribute_value() для перераспределения переменной.

`scope`

Посмотреть исходный код

@contextlib.contextmanager
scope()

Менеджер контекста, который делает Distribution текущим.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/distribution/DataParallel