tf.nondifferentiable_batch_function

Группирует вычисления, выполняемые декорированной функцией.

tf.nondifferentiable_batch_function(
    num_batch_threads, max_batch_size, batch_timeout_micros,
    allowed_batch_sizes=None, max_enqueued_batches=10, autograph=True,
    enable_large_batch_splitting=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если более одного вызова session.run одновременно пытается вычислить b значения w будут собраны, не детерминированно конкатенированы по первой оси, и только одна нить будет выполнять вычисление. См. документацию по Batch оператору для получения дополнительной информации.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут сгруппированы по первому измерению.

SparseTensor не поддерживается. Результат декорированной функции должен быть тензором или списком/кортежем тензоров.