Spec-Zone.ru › TensorFlow 2.9

tf.compat.v1.keras.initializers.lecun_normal

Инициализатор, способный адаптировать свою шкалу к форме тензоров весов.

Наследуется от: VarianceScaling

tf.compat.v1.keras.initializers.lecun_normal(
    seed=None
)

Переход к TF2

Внимание: Этот API был разработан для TensorFlow v1. Продолжайте чтение для получения подробностей о том, как перейти от этого API к эквиваленту в TensorFlow v2. Обратитесь к руководству по миграции TensorFlow v1 в TensorFlow v2 для инструкций по миграции остальной части вашего кода.

Несмотря на то, что это устаревший compat.v1 API, этот символ совместим с выполнением eager и tf.function.

Для перехода к API TF2 используйте либо tf.initializers.variance_scaling, либо tf.keras.initializers.VarianceScaling (ни один из которых не из compat.v1) и передайте dtype при вызове инициализатора.

Структурное отображение на TF2

До:

initializer = tf.compat.v1.variance_scaling_initializer(
  scale=scale,
  mode=mode,
  distribution=distribution
  seed=seed,
  dtype=dtype)

weight_one = tf.Variable(initializer(shape_one))
weight_two = tf.Variable(initializer(shape_two))

После:

initializer = tf.keras.initializers.VarianceScaling(
  scale=scale,
  mode=mode,
  distribution=distribution
  seed=seed)

weight_one = tf.Variable(initializer(shape_one, dtype=dtype))
weight_two = tf.Variable(initializer(shape_two, dtype=dtype))

Как сопоставить аргументы

Имя аргумента TF1 Имя аргумента TF2 Примечание
scale scale Нет изменений по умолчанию
mode mode Нет изменений по умолчанию
distribution distribution Нет изменений по умолчанию. 'normal' отображается на 'truncated_normal'
seed seed
dtype dtype API TF2 принимает его только как аргумент __call__, а не как аргумент конструктора.
partition_info - (аргумент __call__ в TF1) Не поддерживается

Описание

С distribution="truncated_normal" or "untruncated_normal", образцы выбираются из усеченного/неусеченного нормального распределения со средним значением ноль и стандартным отклонением (после усечения, если используется) stddev = sqrt(scale / n), где n:

  • число входных единиц в тензоре весов, если mode = "fan_in"
  • число выходных единиц, если mode = "fan_out"
  • среднее арифметическое числа входных и выходных единиц, если mode = "fan_avg"

С distribution="uniform", образцы выбираются из равномерного распределения в диапазоне [-limit, limit] с limit = sqrt(3 * scale / n).

Аргументы
scale Коэффициент масштабирования (положительное число с плавающей точкой).
mode Одно из "fan_in", "fan_out", "fan_avg".
distribution Тип случайного распределения. Одно из "normal", "uniform".
seed Целое число Python. Используется для создания случайных семян. См. tf.compat.v1.set_random_seed для поведения.
dtype Тип данных по умолчанию, используется, если аргумент dtype не предоставлен при вызове инициализатора. Поддерживаются только типы с плавающей точкой.
Исключения
ValueError В случае неверного значения для аргументов "scale", "mode" или "distribution".

Методы

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Инициализирует инициализатор по словарю конфигурации.

Пример:

initializer = RandomUniform(-1, 1)
config = initializer.get_config()
initializer = RandomUniform.from_config(config)
Аргументы
config Словарь Python. Обычно он является результатом get_config.
Возвращаемое значение
Экземпляр Initializer.

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию инициализатора в виде сериализуемого в JSON словаря.

Возвращаемое значение
Сериализуемый в JSON словарь Python.

__call__

Просмотреть исходный код

__call__(
    shape, dtype=None, partition_info=None
)

Возвращает тензорный объект, инициализированный в соответствии с инициализатором.

Аргументы
shape Форма тензора.
dtype Необязательный тип данных тензора. Если не указан, используется тип данных инициализатора.
partition_info Необязательная информация о возможном разбиении тензора.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/compat/v1/keras/initializers/lecun_normal

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API