tf.nondifferentiable_batch_function

Выполняет вычисления, выполняемые декорированной функцией, в виде пакетной операции.

tf.nondifferentiable_batch_function(
    num_batch_threads, max_batch_size, batch_timeout_micros,
    allowed_batch_sizes=None, max_enqueued_batches=10, autograph=True
)

Например, в следующем коде

@batch_function(1, 2, 3)
def layer(a):
  return tf.matmul(a, a)

b = layer(w)

если несколько вызовов session.run одновременно пытаются вычислить b, значения w будут собраны, не гарантированно конкатенированы по первой оси, и только один поток выполнит вычисление. Дополнительную информацию см. в документации к операции Batch.

Предполагается, что все аргументы декорированной функции являются тензорами, которые будут пакетированы по своему первому измерению.

SparseTensor не поддерживается. Возвращаемое значение декорированной функции должно быть тензором или списком/кортежем тензоров.