tf.raw_ops.Batch

Объединяет все входные тензоры в пакеты недетерминированным образом.

tf.raw_ops.Batch(
    in_tensors,
    num_batch_threads,
    max_batch_size,
    batch_timeout_micros,
    grad_timeout_micros,
    max_enqueued_batches=10,
    allowed_batch_sizes=[],
    container='',
    shared_name='',
    batching_queue='',
    name=None
)

Если несколько экземпляров этой операции одновременно выполняются на одном устройстве с одинаковыми значениями container/shared_name, некоторые из них выведут тензоры нулевого размера, а другие — тензоры размером до max_batch_size.

Все тензоры в in_tensors объединяются в пакет (например, метки и признаки следует объединять в пакет с помощью одного экземпляра этой операции).

Каждый вызов batch выдает скаляр id, который используется для идентификации этого вызова при выполнении unbatch или вычислении градиента.

Каждая операция, формирующая непустой пакет, также выдает непустой тензор batch_index — матрицу [K, 3], в каждой строке которой содержатся идентификатор вызова, начальный индекс и количество элементов каждого набора тензоров в batched_tensors.

Объединенные в пакет тензоры конкатенируются вдоль первого измерения, и первое измерение всех тензоров в in_tensors должно иметь одинаковый размер.

in_tensors: тензоры, которые нужно объединить в пакет. num_batch_threads: количество потоков планирования для обработки пакетов задач. Определяет количество пакетов, обрабатываемых параллельно. max_batch_size: размер пакета не будет превышать это значение. batch_timeout_micros: максимальное количество микросекунд ожидания перед выводом неполного пакета. allowed_batch_sizes: необязательный список допустимых размеров пакетов. Если список пуст, ничего не происходит. В противном случае операция дополняет пакеты до одного из указанных размеров. Значения должны идти в порядке возрастания, а последнее значение должно быть равно max_batch_size. grad_timeout_micros: время ожидания, используемое для градиента. См. Unbatch. batched_tensors: пустые тензоры или пакет конкатенированных тензоров. batch_index: если out_tensors не пуст, содержит информацию, необходимую для обратного преобразования. container: определяет область совместного использования этого пакета. id: всегда содержит скаляр с уникальным идентификатором этого вызова Batch. shared_name: одновременно выполняющиеся экземпляры batch на одном устройстве с одинаковыми значениями container и shared_name объединяют свои элементы в общий пакет. Если значение не задано, в качестве shared_name используется имя операции. T: типы тензоров, которые нужно объединить в пакет.