tf.keras.Layer

Это базовый класс, от которого наследуются все слои.

Наследуется от: Operation

tf.keras.Layer(
    *,
    activity_regularizer=None,
    trainable=True,
    dtype=None,
    autocast=True,
    name=None,
    **kwargs
)

Используется в блокнотах

Слой — это вызываемый объект, который принимает на вход один или несколько тензоров и возвращает один или несколько тензоров. Он включает в себя вычисления, определенные в методе call(), и состояние (переменные весов). Состояние можно создавать:

• в __init__(), например с помощью self.add_weight();
• в необязательном методе build(), который вызывается при первом обращении __call__() к слою и получает форму (формы) входных данных, которая могла быть неизвестна во время инициализации.

Слои можно рекурсивно компоновать: если назначить экземпляр Layer атрибутом другого Layer, внешний слой начнет отслеживать веса, созданные внутренним слоем. Вложенные слои следует создавать в методе __init__() или build().

Пользователи просто создают экземпляр слоя, а затем используют его как вызываемый объект.

Рекомендуем, чтобы классы-наследники Layer реализовывали следующие методы:

• __init__(): определяет пользовательские атрибуты слоя и создает веса слоя, не зависящие от формы входных данных, используя add_weight() или другое состояние.
• build(self, input_shape): этот метод можно использовать для создания весов, зависящих от формы (форм) входных данных, используя add_weight() или другое состояние. __call__() автоматически выполнит сборку слоя (если она еще не была выполнена), вызвав build().
• call(self, *args, **kwargs): вызывается в __call__ после проверки того, что был вызван build(). call() выполняет логику применения слоя к входным аргументам. В call() можно при необходимости использовать два зарезервированных именованных аргумента: 1. training (логическое значение, указывающее, выполняется ли вызов в режиме вывода или обучения). 2. mask (логический тензор, кодирующий маскированные временные шаги во входных данных; например, используется в слоях RNN). Типичная сигнатура этого метода: call(self, inputs); при необходимости пользователь может добавить training и mask, если они нужны слою.
• get_config(self): возвращает словарь с конфигурацией, использованной для инициализации этого слоя. Если ключи отличаются от аргументов в __init__(), переопределите также from_config(self). Этот метод используется при сохранении слоя или модели, содержащей этот слой.

Примеры:

Вот простой пример: слой с двумя переменными, w и b, который возвращает y = w . x + b. В нем показано, как реализовать build() и call(). Переменные, заданные в качестве атрибутов слоя, отслеживаются как веса слоев (в layer.weights).

class SimpleDense(Layer):
    def __init__(self, units=32):
        super().__init__()
        self.units = units

    # Create the state of the layer (weights)
    def build(self, input_shape):
        self.kernel = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="glorot_uniform",
            trainable=True,
            name="kernel",
        )
        self.bias = self.add_weight(
            shape=(self.units,),
            initializer="zeros",
            trainable=True,
            name="bias",
        )

    # Defines the computation
    def call(self, inputs):
        return ops.matmul(inputs, self.kernel) + self.bias

# Instantiates the layer.
linear_layer = SimpleDense(4)

# This will also call `build(input_shape)` and create the weights.
y = linear_layer(ops.ones((2, 2)))
assert len(linear_layer.weights) == 2

# These weights are trainable, so they're listed in `trainable_weights`:
assert len(linear_layer.trainable_weights) == 2

Помимо обучаемых весов, обновляемых обратным распространением ошибки во время обучения, у слоев могут быть и необучаемые веса. Эти веса предназначены для обновления вручную во время call(). Ниже приведен пример слоя, вычисляющего скользящую сумму своих входных данных:

class ComputeSum(Layer):

  def __init__(self, input_dim):
      super(ComputeSum, self).__init__()
      # Create a non-trainable weight.
      self.total = self.add_weight(
        shape=(),
        initializer="zeros",
        trainable=False,
        name="total",
      )

  def call(self, inputs):
      self.total.assign(self.total + ops.sum(inputs))
      return self.total

my_sum = ComputeSum(2)
x = ops.ones((2, 2))
y = my_sum(x)

assert my_sum.weights == [my_sum.total]
assert my_sum.non_trainable_weights == [my_sum.total]
assert my_sum.trainable_weights == []

Методы

add_loss

Просмотреть исходный код

add_loss(
    loss
)

Можно вызвать внутри метода call(), чтобы добавить скалярную потерю.

Пример:

class MyLayer(Layer):
    ...
    def call(self, x):
        self.add_loss(ops.sum(x))
        return x

add_metric

Просмотреть исходный код

add_metric()

add_variable

Просмотреть исходный код

add_variable(
    shape,
    initializer,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    name=None
)

Добавляет переменную веса в слой.

Псевдоним add_weight().

add_weight

Просмотреть исходный код

add_weight(
    shape=None,
    initializer=None,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    aggregation='mean',
    name=None
)

Добавляет переменную веса в слой.

build

Просмотреть исходный код

build(
    input_shape
)

build_from_config

Просмотреть исходный код

build_from_config(
    config
)

Создает состояния слоя с помощью предоставленного словаря конфигурации.

По умолчанию этот метод вызывает метод build(config["input_shape"]), который создает веса на основе формы входных данных слоя, указанной в конфигурации. Если конфигурация содержит другие сведения, необходимые для загрузки состояния слоя, переопределите этот метод.

call

Просмотреть исходный код

call(
    *args, **kwargs
)

compute_mask

Просмотреть исходный код

compute_mask(
    inputs, previous_mask
)

compute_output_shape

Просмотреть исходный код

compute_output_shape(
    *args, **kwargs
)

compute_output_spec

Просмотреть исходный код

compute_output_spec(
    *args, **kwargs
)

count_params

Просмотреть исходный код

count_params()

Подсчитывает общее количество скалярных значений, составляющих веса.

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Создает слой на основе его конфигурации.

Этот метод является обратным к get_config и позволяет создать экземпляр того же слоя из словаря конфигурации. Он не обрабатывает связи между слоями (это делает Network) и веса (это делает set_weights).

get_build_config

Просмотреть исходный код

get_build_config()

Возвращает словарь с формой входных данных слоя.

Этот метод возвращает словарь конфигурации, который можно использовать в build_from_config(config) для создания всех состояний (например, переменных и таблиц поиска), необходимых слою.

По умолчанию конфигурация содержит только форму входных данных, с которой был создан слой. Если вы создаете пользовательский слой, формирующий состояние необычным способом, переопределите этот метод, чтобы это состояние уже было создано к моменту, когда Keras попытается загрузить его значение при загрузке модели.

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию объекта.

Конфигурация объекта — это сериализуемый словарь Python, содержащий сведения, необходимые для повторного создания объекта.

get_weights

Просмотреть исходный код

get_weights()

Возвращает значения layer.weights в виде списка массивов NumPy.

load_own_variables

Просмотреть исходный код

load_own_variables(
    store
)

Загружает состояние слоя.

Вы можете переопределить этот метод, чтобы полностью управлять загрузкой состояния слоя при вызове keras.models.load_model().

quantize

Просмотреть исходный код

quantize(
    mode
)

quantized_call

Просмотреть исходный код

quantized_call(
    *args, **kwargs
)

save_own_variables

Просмотреть исходный код

save_own_variables(
    store
)

Сохраняет состояние слоя.

Вы можете переопределить этот метод, чтобы полностью управлять сохранением состояния слоя при вызове model.save().

set_weights

Просмотреть исходный код

set_weights(
    weights
)

Задает значения layer.weights из списка массивов NumPy.

stateless_call

Просмотреть исходный код

stateless_call(
    trainable_variables,
    non_trainable_variables,
    *args,
    return_losses=False,
    **kwargs
)

Вызывает слой без побочных эффектов.

Примечание: non_trainable_variables включают не только необучаемые веса, например статистику BatchNormalization, но и состояние начального значения генератора случайных чисел (если в слое есть случайные операции, например dropout), а также состояние Metric (если к слою присоединены метрики). Все это является состоянием слоя.

Пример:

model = ...
data = ...
trainable_variables = model.trainable_variables
non_trainable_variables = model.non_trainable_variables
# Call the model with zero side effects
outputs, non_trainable_variables = model.stateless_call(
    trainable_variables,
    non_trainable_variables,
    data,
)
# Attach the updated state to the model
# (until you do this, the model is still in its pre-call state).
for ref_var, value in zip(
    model.non_trainable_variables, non_trainable_variables
):
    ref_var.assign(value)

symbolic_call

Просмотреть исходный код

symbolic_call(
    *args, **kwargs
)

__call__

Просмотреть исходный код

__call__(
    *args, **kwargs
)

Вызывает объект как функцию.