tf.nondifferentiable_batch_function

Группирует вычисления, выполняемые декорированной функцией.

tf.nondifferentiable_batch_function(
    num_batch_threads,
    max_batch_size,
    batch_timeout_micros,
    allowed_batch_sizes=None,
    max_enqueued_batches=10,
    autograph=True,
    enable_large_batch_splitting=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если более одного вызова session.run одновременно пытается вычислить b значения w будут собраны, не определяемо конкатенированы по первой оси, и только один поток выполнит вычисление. См. документацию по операции Batch для получения дополнительных сведений.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут сгруппированы по своему первому измерению.

SparseTensor не поддерживается. Значение возвращаемое декорированной функцией, должно быть тензором или списком/кортежем тензоров.