tf.variable_scope

Менеджер контекста для определения операций, создающих переменные (слои).

tf.variable_scope(
    name_or_scope, default_name=None, values=None, initializer=None,
    regularizer=None, caching_device=None, partitioner=None, custom_getter=None,
    reuse=None, dtype=None, use_resource=None, constraint=None,
    auxiliary_name_scope=True
)

Этот менеджер контекста проверяет, что (необязательные) values принадлежат одному и тому же графу, гарантирует, что граф является стандартным графом, и помещает область имён и область переменных.

Если name_or_scope не равно None, оно используется как есть. Если name_or_scope равно None, то используется default_name. В этом случае, если то же самое имя уже использовалось в той же области, оно будет сделано уникальным путём добавления _N.

Область переменных позволяет создавать новые переменные и использовать уже созданные, предоставляя проверки, чтобы случайно не создать или не использовать их. Для получения подробной информации см. Инструкцию по области переменных, здесь мы представим только несколько основных примеров.

Простой пример создания новой переменной:

with tf.compat.v1.variable_scope("foo"):
    with tf.compat.v1.variable_scope("bar"):
        v = tf.compat.v1.get_variable("v", [1])
        assert v.name == "foo/bar/v:0"

Простой пример повторного входа в заранее созданную область переменных безопасно:

with tf.compat.v1.variable_scope("foo") as vs:
  pass

# Re-enter the variable scope.
with tf.compat.v1.variable_scope(vs,
                       auxiliary_name_scope=False) as vs1:
  # Restore the original name_scope.
  with tf.name_scope(vs1.original_name_scope):
      v = tf.compat.v1.get_variable("v", [1])
      assert v.name == "foo/v:0"
      c = tf.constant([1], name="c")
      assert c.name == "foo/c:0"

Базовый пример использования переменной AUTO_REUSE:

def foo():
  with tf.compat.v1.variable_scope("foo", reuse=tf.compat.v1.AUTO_REUSE):
    v = tf.compat.v1.get_variable("v", [1])
  return v

v1 = foo()  # Creates v.
v2 = foo()  # Gets the same, existing v.
assert v1 == v2

Базовый пример использования переменной с reuse=True:

with tf.compat.v1.variable_scope("foo"):
    v = tf.compat.v1.get_variable("v", [1])
with tf.compat.v1.variable_scope("foo", reuse=True):
    v1 = tf.compat.v1.get_variable("v", [1])
assert v1 == v

Использование переменной путём захвата области и установки reuse:

with tf.compat.v1.variable_scope("foo") as scope:
    v = tf.compat.v1.get_variable("v", [1])
    scope.reuse_variables()
    v1 = tf.compat.v1.get_variable("v", [1])
assert v1 == v

Чтобы предотвратить случайное использование переменных, мы генерируем исключение при получении существующей переменной в области без использования.

with tf.compat.v1.variable_scope("foo"):
    v = tf.compat.v1.get_variable("v", [1])
    v1 = tf.compat.v1.get_variable("v", [1])
    #  Raises ValueError("... v already exists ...").

Аналогично, мы генерируем исключение при попытке получить переменную, которая не существует в режиме reuse.

with tf.compat.v1.variable_scope("foo", reuse=True):
    v = tf.compat.v1.get_variable("v", [1])
    #  Raises ValueError("... v does not exists ...").

Обратите внимание, что флаг reuse наследуется: если мы открываем область с reuse, все её под-области также становятся областями с reuse.

Замечание по областям имён: Установка reuse не влияет на именование других операций, таких как mult. См. связанное обсуждение на github#6189

Обратите внимание, что до версии 1.0 включительно было разрешено (хотя явно не рекомендовалось) передавать False в аргумент reuse, что приводило к недокументированному поведению, немного отличающемуся от None. Начиная с 1.1.0, передача None и False как reuse имеет точно такой же эффект.

Замечание по использованию областей переменных в многопоточной среде: Области переменных являются локальными для потока, поэтому один поток не увидит текущую область другого потока. Кроме того, при использовании default_name, уникальные имена областей генерируются только на основе потока. Если то же имя было использовано в другом потоке, это не мешает новому потоку создать ту же область. Однако, базовое хранилище переменных совместно используется между потоками (в пределах одного графа). Таким образом, если другой поток пытается создать новую переменную с тем же именем, что и переменная, созданная предыдущим потоком, это завершится неудачей, если reuse не равно True.

Кроме того, каждый поток начинается с пустой области переменных. Поэтому, если вы хотите сохранить префиксы имён из области из основного потока, вы должны захватить область основного потока и повторно войти в неё в каждом потоке. Например:

main_thread_scope = variable_scope.get_variable_scope()

# Thread's target function:
def thread_target_fn(captured_scope):
  with variable_scope.variable_scope(captured_scope):
    # .... regular code for this thread


thread = threading.Thread(target=thread_target_fn, args=(main_thread_scope,))

Методы

__enter__

Просмотр исходного кода

__enter__()

__exit__

Просмотр исходного кода

__exit__(
    type_arg, value_arg, traceback_arg
)