tf.init_scope

Менеджер контекста, который выносит операции за пределы областей управления потоком и графиков построения функций.

@tf_contextlib.contextmanager
tf.init_scope() -> Iterator[None]

Используется в блокнотах

Часто возникает необходимость вынести операции инициализации переменных за пределы областей управления потоком, графиков построения функций и лент градиентов. Вход в init_scope — это механизм для удовлетворения этих требований. В частности, вход в init_scope имеет три эффекта:

(1) Все зависимости управления очищаются в момент входа в область; это эквивалентно входу в контекстный менеджер, возвращаемый из control_dependencies(None), который имеет побочный эффект выхода из областей управления потоком, таких как tf.cond и tf.while_loop.

(2) Все операции, созданные во время активности области, поднимаются в самый низкий контекст на context_stack, который не строит функцию графика. Здесь контекст определяется как график или контекст eager. Каждый переход контекста, то есть установка графика в качестве стандартного графика и каждый переход в режим eager, регистрируется в локальном стеке потока, называемом context_switches; запись о переходе контекста удаляется из стека при выходе из контекста. Вход в init_scope эквивалентен подъёму по context_switches, поиску первого контекста, который не строит функцию графика, и входу в него. Особенность заключается в том, что если режим графика включен, но стек стандартного графика пуст, то вход в init_scope просто установит новый график в качестве стандартного.

(3) Лента градиентов приостанавливается во время активности области.

Когда включено выполнение eager, код внутри блока init_scope выполняется с включённым eager-вычислением, даже при отслеживании tf.function. Например:

tf.compat.v1.enable_eager_execution()

@tf.function
def func():
  # A function constructs TensorFlow graphs,
  # it does not execute eagerly.
  assert not tf.executing_eagerly()
  with tf.init_scope():
    # Initialization runs with eager execution enabled
    assert tf.executing_eagerly()