tf.nondifferentiable_batch_function

Группирует вычисления, выполняемые декорированной функцией.

tf.nondifferentiable_batch_function(
    num_batch_threads,
    max_batch_size,
    batch_timeout_micros,
    allowed_batch_sizes=None,
    max_enqueued_batches=10,
    autograph=True,
    enable_large_batch_splitting=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если более одного вызова session.run пытается одновременно вычислить b значения w будут собраны, не детерминированно конкатенированы по первой оси, и только один поток будет выполнять вычисления. Подробнее см. документацию по операции Batch.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут сгруппированы по первому измерению.

SparseTensor не поддерживается. Результат декорированной функции должен быть тензором или списком/кортежем тензоров.