Spec-Zone.ru › TensorFlow 2.4

tf.compat.v1.tpu.shard

Разделение computation для параллельного выполнения.

tf.compat.v1.tpu.shard(
    computation, inputs=None, num_shards=1, input_shard_axes=None,
    outputs_from_all_shards=True, output_shard_axes=None, infeed_queue=None,
    device_assignment=None, name=None, xla_options=None
)

inputs должно быть списком тензоров или None (эквивалентно пустому списку), каждый из которых имеет соответствующую ось разделения (с input_shard_axes). Каждый вход разделяется на num_shards части по соответствующей оси, и вычисление применяется к каждому фрагменту параллельно.

Тензоры транслируются во все фрагменты, если они лексически захвачены computation. Например:

x = tf.constant(7) def computation(): return x + 3 ... = shard(computation, ...)

в качестве входных данных.

Если outputs_from_all_shards истинно, выходы всех фрагментов computation склеиваются вместе по их output_shard_axes. В противном случае каждый выход берется из произвольного фрагмента.

Входы и выходы вычисления должны быть тензорами ранга не менее 1.

Аргументы
computation Функция Python, которая строит вычисление для применения к каждому фрагменту входных данных.
inputs Список входных тензоров или None (эквивалентно пустому списку). Каждый входной тензор имеет соответствующую ось фрагмента, заданную input_shard_axes, размер которой должен быть делимым на num_shards.
num_shards Количество фрагментов.
input_shard_axes Список измерений, по которым следует разделить inputs, или None. None означает «разделить все входы по размеру 0». Если не None, то должно быть по одному измерению на вход.
outputs_from_all_shards Булево значение или список булевых значений. Для каждого выхода, если True, выходы со всех фрагментов конкатенируются по соответствующему значению в output_shard_axes. В противном случае каждый выход берется из произвольного фрагмента. Если аргумент — булево значение, его значение используется для каждого выхода.
output_shard_axes Список измерений, по которым следует конкатенировать выходы computation, или None. None означает «конкатенировать все выходы по размеру 0». Если не None, то должно быть по одному измерению на выход. Игнорируется, если outputs_from_all_shards равно False.
infeed_queue Если не None, то InfeedQueue для увеличения входов computation.
device_assignment Если не None, описание DeviceAssignment сопоставления логических ядер в вычислении с физическими ядрами в топологии TPU. Используется значение по умолчанию, если None. DeviceAssignment можно опустить, если каждый фрагмент вычисления использует только одно ядро, и либо есть только один фрагмент, либо количество фрагментов равно количеству ядер в системе TPU.
name (Устаревшее) Ничего не делает.
xla_options Экземпляр tpu.XLAOptions, указывающий на параметры, передаваемые компилятору XLA. Используйте None для параметров по умолчанию.
Возвращает
Список выходных тензоров.
Исключения
ValueError Если num_shards <= 0
ValueError Если len(input_shard_axes) != len(inputs)
ValueError Если len(output_shard_axes) != len(выходы из computation)

© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/tpu/shard

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API