tf.nondifferentiable_batch_function

Группирует вычисления, выполненные декорированной функцией.

tf.nondifferentiable_batch_function(
    num_batch_threads, max_batch_size, batch_timeout_micros,
    allowed_batch_sizes=None, max_enqueued_batches=10, autograph=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если несколько вызовов session.run одновременно пытаются вычислить b значения w, то значения будут собраны, не детерминированно конкатенированы по первой оси, и только один поток выполнит вычисления. Дополнительные сведения см. в документации по операции Batch.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут сгруппированы по первому измерению.

SparseTensor не поддерживается. Результат декорированной функции должен быть тензором или списком/кортежем тензоров.