tf.compat.v1.tpu.shard
Разделение computation для параллельного выполнения.
tf.compat.v1.tpu.shard(
computation, inputs=None, num_shards=1, input_shard_axes=None,
outputs_from_all_shards=True, output_shard_axes=None, infeed_queue=None,
device_assignment=None, name=None, xla_options=None
)
inputs должно быть списком тензоров или None (эквивалентно пустому списку), каждый из которых имеет соответствующую ось разделения (с input_shard_axes). Каждый вход разделяется на num_shards части по соответствующей оси, и вычисление применяется к каждому фрагменту параллельно.
Тензоры транслируются во все фрагменты, если они лексически захвачены computation. Например:
x = tf.constant(7) def computation(): return x + 3 ... = shard(computation, ...)
в качестве входных данных.
Если outputs_from_all_shards истинно, выходы всех фрагментов computation склеиваются вместе по их output_shard_axes. В противном случае каждый выход берется из произвольного фрагмента.
Входы и выходы вычисления должны быть тензорами ранга не менее 1.
| Аргументы | |
|---|---|
computation | Функция Python, которая строит вычисление для применения к каждому фрагменту входных данных. |
inputs | Список входных тензоров или None (эквивалентно пустому списку). Каждый входной тензор имеет соответствующую ось фрагмента, заданную input_shard_axes, размер которой должен быть делимым на num_shards. |
num_shards | Количество фрагментов. |
input_shard_axes | Список измерений, по которым следует разделить inputs, или None. None означает «разделить все входы по размеру 0». Если не None, то должно быть по одному измерению на вход. |
outputs_from_all_shards | Булево значение или список булевых значений. Для каждого выхода, если True, выходы со всех фрагментов конкатенируются по соответствующему значению в output_shard_axes. В противном случае каждый выход берется из произвольного фрагмента. Если аргумент — булево значение, его значение используется для каждого выхода. |
output_shard_axes | Список измерений, по которым следует конкатенировать выходы computation, или None. None означает «конкатенировать все выходы по размеру 0». Если не None, то должно быть по одному измерению на выход. Игнорируется, если outputs_from_all_shards равно False. |
infeed_queue | Если не None, то InfeedQueue для увеличения входов computation. |
device_assignment | Если не None, описание DeviceAssignment сопоставления логических ядер в вычислении с физическими ядрами в топологии TPU. Используется значение по умолчанию, если None. DeviceAssignment можно опустить, если каждый фрагмент вычисления использует только одно ядро, и либо есть только один фрагмент, либо количество фрагментов равно количеству ядер в системе TPU. |
name | (Устаревшее) Ничего не делает. |
xla_options | Экземпляр tpu.XLAOptions, указывающий на параметры, передаваемые компилятору XLA. Используйте None для параметров по умолчанию. |
| Возвращает | |
|---|---|
| Список выходных тензоров. |
| Исключения | |
|---|---|
ValueError | Если num_shards <= 0 |
ValueError | Если len(input_shard_axes) != len(inputs) |
ValueError | Если len(output_shard_axes) != len(выходы из computation) |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/compat/v1/tpu/shard