tf.config.set_soft_device_placement

Включить или отключить мягкое размещение устройств.

tf.config.set_soft_device_placement(
    enabled
)

Используется в блокнотах

Если включено, операции могут быть размещены на разных устройствах, отличных от явно назначенного пользователем. Это потенциально влечет за собой значительные потери производительности из-за увеличения обмена данными между устройствами.

В некоторых случаях мягкое размещение устройств может изменить назначение устройства:

1. отсутствует реализация OP для GPU/TPU
2. неизвестны или не зарегистрированы устройства GPU
3. необходима ко-локализация с входными данными типа ref, которые поступают с ЦП
4. операцию нельзя скомпилировать с помощью XLA. Часто встречается для TPU, который всегда требует компилятора XLA.

Для TPU, если этот параметр имеет значение true, активируется функция автоматической внешней компиляции. Автоматическая внешняя компиляция переместит несводимые операции внутри программы TPU для выполнения на хосте. Это может использоваться при возникновении сбоев компиляции из-за неподдерживаемых операций.

Примечание: по умолчанию мягкое размещение устройств включено при выполнении в режиме eager (для удобства) и отключено в режиме графа (для повышения производительности).