tf.keras.Layer

Это класс, от которого наследуются все слои.

Наследуется от: Operation

tf.keras.Layer(
    *,
    activity_regularizer=None,
    trainable=True,
    dtype=None,
    autocast=True,
    name=None,
    **kwargs
)

Используется в блокнотах

Слой — это вызываемый объект, который принимает на вход один или несколько тензоров и возвращает один или несколько тензоров. Он включает в себя вычисления, определенные в методе call(), и состояние (переменные весов). Состояние можно создать:

• в __init__(), например с помощью self.add_weight();
• в необязательном методе build(), который вызывается при первом __call__() слоя и получает форму (или формы) входных данных, которая могла быть неизвестна на момент инициализации.

Слои можно рекурсивно компоновать: если назначить экземпляр Layer атрибутом другого Layer, внешний слой начнет отслеживать веса, созданные внутренним слоем. Вложенные слои следует создавать в методе __init__() или build().

Пользователю достаточно создать экземпляр слоя, а затем обращаться с ним как с вызываемым объектом.

Рекомендуется, чтобы классы, производные от Layer, реализовывали следующие методы:

• __init__(): определяет пользовательские атрибуты слоя и создает веса слоя, не зависящие от формы входных данных, с помощью add_weight() или другого состояния.
• build(self, input_shape): этот метод можно использовать для создания весов, зависящих от формы (или форм) входных данных, с помощью add_weight() или другого состояния. __call__() автоматически построит слой (если он еще не был построен), вызвав build().
• call(self, *args, **kwargs): вызывается в __call__ после проверки, что был вызван build(). call() выполняет логику применения слоя к входным аргументам. В call() можно дополнительно использовать два зарезервированных именованных аргумента: 1. training (логическое значение, указывающее, выполняется ли вызов в режиме вывода или обучения). 2. mask (логический тензор, кодирующий замаскированные временные шаги во входных данных; используется, например, в слоях RNN). Типичная сигнатура этого метода: call(self, inputs); пользователь может при необходимости добавить training и mask, если они требуются слою.
• get_config(self): возвращает словарь с конфигурацией, использованной для инициализации этого слоя. Если ключи отличаются от аргументов в __init__(), необходимо также переопределить from_config(self). Этот метод используется при сохранении слоя или модели, содержащей этот слой.

Примеры:

Вот простой пример: слой с двумя переменными, w и b, который возвращает y = w . x + b. В нем показано, как реализовать build() и call(). Переменные, заданные как атрибуты слоя, отслеживаются в качестве весов слоев (в layer.weights).

class SimpleDense(Layer):
    def __init__(self, units=32):
        super().__init__()
        self.units = units

    # Create the state of the layer (weights)
    def build(self, input_shape):
        self.kernel = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="glorot_uniform",
            trainable=True,
            name="kernel",
        )
        self.bias = self.add_weight(
            shape=(self.units,),
            initializer="zeros",
            trainable=True,
            name="bias",
        )

    # Defines the computation
    def call(self, inputs):
        return ops.matmul(inputs, self.kernel) + self.bias

# Instantiates the layer.
linear_layer = SimpleDense(4)

# This will also call `build(input_shape)` and create the weights.
y = linear_layer(ops.ones((2, 2)))
assert len(linear_layer.weights) == 2

# These weights are trainable, so they're listed in `trainable_weights`:
assert len(linear_layer.trainable_weights) == 2

Помимо обучаемых весов, обновляемых с помощью обратного распространения ошибки во время обучения, у слоев могут быть и необучаемые веса. Предполагается, что эти веса обновляются вручную во время call(). Вот пример слоя, вычисляющего текущую сумму своих входных данных:

class ComputeSum(Layer):

  def __init__(self, input_dim):
      super(ComputeSum, self).__init__()
      # Create a non-trainable weight.
      self.total = self.add_weight(
        shape=(),
        initializer="zeros",
        trainable=False,
        name="total",
      )

  def call(self, inputs):
      self.total.assign(self.total + ops.sum(inputs))
      return self.total

my_sum = ComputeSum(2)
x = ops.ones((2, 2))
y = my_sum(x)

assert my_sum.weights == [my_sum.total]
assert my_sum.non_trainable_weights == [my_sum.total]
assert my_sum.trainable_weights == []

Методы

add_loss

Просмотреть исходный код

add_loss(
    loss
)

Можно вызвать внутри метода call(), чтобы добавить скалярную потерю.

Пример:

class MyLayer(Layer):
    ...
    def call(self, x):
        self.add_loss(ops.sum(x))
        return x

add_metric

Просмотреть исходный код

add_metric()

add_variable

Просмотреть исходный код

add_variable(
    shape,
    initializer,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    name=None
)

Добавляет переменную весов в слой.

Псевдоним add_weight().

add_weight

Просмотреть исходный код

add_weight(
    shape=None,
    initializer=None,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    aggregation='mean',
    name=None
)

Добавляет переменную весов в слой.

build

Просмотреть исходный код

build(
    input_shape
)

build_from_config

Просмотреть исходный код

build_from_config(
    config
)

Создает состояния слоя с помощью предоставленного словаря конфигурации.

По умолчанию этот метод вызывает метод build(config["input_shape"]), который создает веса на основе формы входных данных слоя, указанной в предоставленной конфигурации. Если конфигурация содержит другие сведения, необходимые для загрузки состояния слоя, следует переопределить этот метод.

call

Просмотреть исходный код

call(
    *args, **kwargs
)

compute_mask

Просмотреть исходный код

compute_mask(
    inputs, previous_mask
)

compute_output_shape

Просмотреть исходный код

compute_output_shape(
    *args, **kwargs
)

compute_output_spec

Просмотреть исходный код

compute_output_spec(
    *args, **kwargs
)

count_params

Просмотреть исходный код

count_params()

Подсчитывает общее количество скаляров, составляющих веса.

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Создает слой из его конфигурации.

Этот метод является обратным к get_config и позволяет создать тот же слой из словаря конфигурации. Он не обрабатывает связи слоев (это делает Network) и веса (это делает set_weights).

get_build_config

Просмотреть исходный код

get_build_config()

Возвращает словарь с формой входных данных слоя.

Этот метод возвращает словарь конфигурации, который может использоваться методом build_from_config(config) для создания всех состояний (например, переменных и таблиц поиска), необходимых слою.

По умолчанию конфигурация содержит только форму входных данных, с которой был построен слой. Если вы создаете пользовательский слой, который необычным образом создает состояние, переопределите этот метод, чтобы это состояние уже было создано к моменту, когда Keras попытается загрузить его значение при загрузке модели.

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию объекта.

Конфигурация объекта — это сериализуемый словарь Python, содержащий сведения, необходимые для повторного создания объекта.

get_weights

Просмотреть исходный код

get_weights()

Возвращает значения layer.weights в виде списка массивов NumPy.

load_own_variables

Просмотреть исходный код

load_own_variables(
    store
)

Загружает состояние слоя.

Можно переопределить этот метод, чтобы полностью управлять загрузкой состояния слоя при вызове keras.models.load_model().

quantize

Просмотреть исходный код

quantize(
    mode
)

quantized_call

Просмотреть исходный код

quantized_call(
    *args, **kwargs
)

save_own_variables

Просмотреть исходный код

save_own_variables(
    store
)

Сохраняет состояние слоя.

Можно переопределить этот метод, чтобы полностью управлять сохранением состояния слоя при вызове model.save().

set_weights

Просмотреть исходный код

set_weights(
    weights
)

Задает значения layer.weights из списка массивов NumPy.

stateless_call

Просмотреть исходный код

stateless_call(
    trainable_variables,
    non_trainable_variables,
    *args,
    return_losses=False,
    **kwargs
)

Вызывает слой без побочных эффектов.

Примечание: non_trainable_variables включает не только необучаемые веса, например статистику BatchNormalization, но и состояние начального значения генератора случайных чисел (если слой выполняет случайные операции, например dropout), а также состояние Metric (если со слоем связаны метрики). Все это является частью состояния слоя.

Пример:

model = ...
data = ...
trainable_variables = model.trainable_variables
non_trainable_variables = model.non_trainable_variables
# Call the model with zero side effects
outputs, non_trainable_variables = model.stateless_call(
    trainable_variables,
    non_trainable_variables,
    data,
)
# Attach the updated state to the model
# (until you do this, the model is still in its pre-call state).
for ref_var, value in zip(
    model.non_trainable_variables, non_trainable_variables
):
    ref_var.assign(value)

symbolic_call

Просмотреть исходный код

symbolic_call(
    *args, **kwargs
)

__call__

Просмотреть исходный код

__call__(
    *args, **kwargs
)

Вызывает объект как функцию.