tf.keras.initializers.LecunNormal

Инициализатор Лекуна нормального распределения.

Наследуется от: VarianceScaling

tf.keras.initializers.LecunNormal(
    seed=None
)

Также доступен через функцию-ярлык tf.keras.initializers.lecun_normal.

Инициализаторы позволяют предварительно указать стратегию инициализации, закодированную в объекте Initializer, не зная формы и типа данных инициализируемой переменной.

Выборка образцов из усечённого нормального распределения, центрированного на 0 с stddev = sqrt(1 / fan_in), где fan_in — количество входных единиц в тензоре весов.

Примеры:

# Standalone usage:
initializer = tf.keras.initializers.LecunNormal()
values = initializer(shape=(2, 2))

# Usage in a Keras layer:
initializer = tf.keras.initializers.LecunNormal()
layer = tf.keras.layers.Dense(3, kernel_initializer=initializer)

Ссылки:

• Самонормализующиеся нейронные сети, Klambauer et al., 2017 (pdf)
• Эффективный обратный проход, Lecun et al., 1998

Методы

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Инициализирует инициализатор из словаря конфигурации.

Пример:

initializer = RandomUniform(-1, 1)
config = initializer.get_config()
initializer = RandomUniform.from_config(config)

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию инициализатора в виде сериализуемого в формате JSON словаря.

__call__

Просмотреть исходный код

__call__(
    shape, dtype=None
)

Возвращает тензор, инициализированный в соответствии со спецификацией инициализатора.