tf.config.experimental.set_memory_growth

Указать, следует ли разрешить рост памяти для PhysicalDevice.

tf.config.experimental.set_memory_growth(
    device, enable
)

Если рост памяти разрешен для PhysicalDevice, во время начальной настройки выполнения не будет выделена вся память на устройстве. Рост памяти нельзя настроить для PhysicalDevice с настроенными виртуальными устройствами.

Например:

physical_devices = tf.config.list_physical_devices('GPU')
try:
  tf.config.experimental.set_memory_growth(physical_devices[0], True)
except:
  # Invalid device or cannot modify virtual devices once initialized.
  pass