tf.VariableSynchronization

Указывает, когда распределенная переменная будет синхронизирована.

• AUTO: Указывает, что синхронизация будет определяться текущим DistributionStrategy (например, с MirroredStrategy это будет ON_WRITE).
• NONE: Указывает, что переменная будет иметь только одну копию, поэтому синхронизация не требуется.
• ON_WRITE: Указывает, что переменная будет обновляться между устройствами каждый раз при записи.
• ON_READ: Указывает, что переменная будет агрегирована между устройствами при чтении (например, при создании контрольной точки или при оценке операции, использующей переменную).

Переменные класса

• AUTO
• NONE
• ON_READ
• ON_WRITE