tf.nondifferentiable_batch_function

Объединяет в пакеты вычисления, выполняемые декорированной функцией.

tf.nondifferentiable_batch_function(
    num_batch_threads,
    max_batch_size,
    batch_timeout_micros,
    allowed_batch_sizes=None,
    max_enqueued_batches=10,
    autograph=True,
    enable_large_batch_splitting=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если несколько вызовов session.run одновременно пытаются вычислить b, значения w будут собраны и в недетерминированном порядке объединены по первой оси, а вычисление выполнит только один поток. Подробнее см. в документации по операции Batch.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут объединены в пакет по первому измерению.

SparseTensor не поддерживается. Возвращаемое значение декорированной функции должно быть тензором или списком/кортежем тензоров.