tf.random.fold_in

Добавляет данные к начальному значению генератора случайных чисел (RNG), формируя новое начальное значение RNG.

tf.random.fold_in(
    seed, data, alg='auto_select'
)

Например, в сценарии распределённого обучения предположим, что у нас есть начальное значение для всей системы и идентификатор реплики. Мы хотим добавить идентификатор реплики к начальному значению для всей системы, чтобы получить «начальное значение реплики», которое эта реплика будет использовать позже. Таким образом, разные реплики будут генерировать разные случайные числа, но воспроизводимость всей системы по-прежнему можно будет контролировать с помощью начального значения для всей системы:

master_seed = [1, 2]
replica_id = 3
replica_seed = tf.random.experimental.stateless_fold_in(
  master_seed, replica_id)
print(replica_seed)
tf.Tensor([1105988140          3], shape=(2,), dtype=int32)
tf.random.stateless_normal(shape=[3], seed=replica_seed)
<tf.Tensor: shape=(3,), dtype=float32, numpy=array([0.03197195, 0.8979765 ,
0.13253039], dtype=float32)>