tf.random.experimental.stateless_fold_in

Складывает данные в начальное состояние генератора случайных чисел, чтобы сформировать новое начальное состояние.

tf.random.experimental.stateless_fold_in(
    seed, data
)

Например, в сценарии распределённого обучения предположим, что у нас есть начальное состояние на главном узле и идентификатор реплики. Мы хотим сложить идентификатор реплики в начальное состояние главного узла, чтобы сформировать «начальное состояние реплики», которое будет использоваться этой репликой позже, чтобы разные реплики генерировали разные случайные числа, но воспроизводимость всей системы всё ещё могла контролироваться начальным состоянием главного узла:

master_seed = [1, 2]
replica_id = 3
replica_seed = tf.random.experimental.stateless_fold_in(
  master_seed, replica_id)
print(replica_seed)
tf.Tensor([1105988140          3], shape=(2,), dtype=int32)
tf.random.stateless_normal(shape=[3], seed=replica_seed)
<tf.Tensor: shape=(3,), dtype=float32, numpy=array([0.03197195, 0.8979765 ,
0.13253039], dtype=float32)>