tf.keras.Layer

Это класс, от которого наследуются все слои.

Наследуется от: Operation

tf.keras.Layer(
    *,
    activity_regularizer=None,
    trainable=True,
    dtype=None,
    autocast=True,
    name=None,
    **kwargs
)

Используется в блокнотах

Слой — это вызываемый объект, принимающий на вход один или несколько тензоров и возвращающий один или несколько тензоров. Он включает в себя вычисления, определенные в методе call(), и состояние (переменные весов). Состояние может быть создано:

• в __init__(), например, с помощью self.add_weight();
• в необязательном методе build(), который вызывается первым __call__() слоем и предоставляет форму(ы) ввода(ов), которая(ые) могут быть неизвестны на момент инициализации.

Слои являются рекурсивно композируемыми: если вы присваиваете экземпляр Layer в качестве атрибута другого Layer, внешний слой начнёт отслеживать веса, созданные внутренним слоем. Вложенные слои должны создаваться в методе __init__() или методе build().

Пользователи просто создают слой и затем обращаются к нему как к вызываемому объекту.

Мы рекомендуем потомкам Layer реализовывать следующие методы:

• __init__(): Определяет пользовательские атрибуты слоя и создает веса слоя, не зависящие от формы ввода, используя add_weight() или другое состояние.
• build(self, input_shape): Этот метод можно использовать для создания весов, зависящих от формы(ов) ввода(ов), используя add_weight() или другое состояние. __call__() автоматически построит слой (если он ещё не построен), вызвав build().
• call(self, *args, **kwargs): Вызывается в __call__ после проверки, что build() был вызван. call() выполняет логику применения слоя к аргументам ввода. Два зарезервированных ключевых аргумента, которые вы можете использовать в call(), это: 1. training (логическое значение, указывает ли вызов на режим вывода или режим обучения). 2. mask (булевский тензор, кодирующий замаскированные временные шаги в вводе, используемый, например, в слоях RNN). Типичная сигнатура этого метода — call(self, inputs), и пользователь может дополнительно добавить training и mask, если слой их требует.
• get_config(self): Возвращает словарь, содержащий конфигурацию, используемую для инициализации этого слоя. Если ключи отличаются от аргументов в __init__(), то переопределите и from_config(self). Этот метод используется при сохранении слоя или модели, содержащей этот слой.

Примеры:

Вот базовый пример: слой с двумя переменными, w и b, который возвращает y = w . x + b. Он демонстрирует, как реализовать build() и call(). Переменные, заданные как атрибуты слоя, отслеживаются как веса слоёв (в layer.weights).

class SimpleDense(Layer):
    def __init__(self, units=32):
        super().__init__()
        self.units = units

    # Create the state of the layer (weights)
    def build(self, input_shape):
        self.kernel = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="glorot_uniform",
            trainable=True,
            name="kernel",
        )
        self.bias = self.add_weight(
            shape=(self.units,),
            initializer="zeros",
            trainable=True,
            name="bias",
        )

    # Defines the computation
    def call(self, inputs):
        return ops.matmul(inputs, self.kernel) + self.bias

# Instantiates the layer.
linear_layer = SimpleDense(4)

# This will also call `build(input_shape)` and create the weights.
y = linear_layer(ops.ones((2, 2)))
assert len(linear_layer.weights) == 2

# These weights are trainable, so they're listed in `trainable_weights`:
assert len(linear_layer.trainable_weights) == 2

Помимо обучаемых весов, обновляемых с помощью обратного распространения во время обучения, слои также могут иметь необучаемые веса. Эти веса предназначены для ручного обновления во время call(). Вот пример слоя, вычисляющего текущую сумму своих входов:

class ComputeSum(Layer):

  def __init__(self, input_dim):
      super(ComputeSum, self).__init__()
      # Create a non-trainable weight.
      self.total = self.add_weight(
        shape=(),
        initializer="zeros",
        trainable=False,
        name="total",
      )

  def call(self, inputs):
      self.total.assign(self.total + ops.sum(inputs))
      return self.total

my_sum = ComputeSum(2)
x = ops.ones((2, 2))
y = my_sum(x)

assert my_sum.weights == [my_sum.total]
assert my_sum.non_trainable_weights == [my_sum.total]
assert my_sum.trainable_weights == []

Методы

add_loss

Посмотреть исходный код

add_loss(
    loss
)

Можно вызвать внутри метода call(), чтобы добавить скалярную потерю.

Пример:

class MyLayer(Layer):
    ...
    def call(self, x):
        self.add_loss(ops.sum(x))
        return x

add_metric

Просмотреть исходный код

add_metric()

add_variable

Просмотреть исходный код

add_variable(
    shape,
    initializer,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    name=None
)

Добавить переменную веса в слой.

Псевдоним add_weight().

add_weight

Просмотреть исходный код

add_weight(
    shape=None,
    initializer=None,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    aggregation='mean',
    name=None
)

Добавить переменную веса в слой.

build

Просмотреть исходный код

build(
    input_shape
)

build_from_config

Просмотреть исходный код

build_from_config(
    config
)

Создаёт состояния слоя с помощью переданного словаря конфигурации.

По умолчанию этот метод вызывает метод build(config["input_shape"]), который создаёт веса на основе формы входных данных слоя в переданной конфигурации. Если ваша конфигурация содержит другую информацию, необходимую для загрузки состояния слоя, вы должны переопределить этот метод.

call

Просмотреть исходный код

call(
    *args, **kwargs
)

compute_mask

Просмотреть исходный код

compute_mask(
    inputs, previous_mask
)

compute_output_shape

Просмотреть исходный код

compute_output_shape(
    *args, **kwargs
)

compute_output_spec

Просмотреть исходный код

compute_output_spec(
    *args, **kwargs
)

count_params

Просмотреть исходный код

count_params()

Подсчёт общего количества скаляров, составляющих веса.

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Создаёт слой из его конфигурации.

Этот метод является обратным get_config, способным создать тот же самый слой из словаря конфигурации. Он не обрабатывает соединение слоёв (это обрабатывает Network), а также веса (это обрабатывает set_weights).

get_build_config

Просмотреть исходный код

get_build_config()

Возвращает словарь с формой входных данных слоя.

Этот метод возвращает словарь конфигурации, который может быть использован build_from_config(config) для создания всех состояний (например, переменных и таблиц поиска), необходимых слою.

По умолчанию конфигурация содержит только форму входных данных, с которой был построен слой. Если вы пишете пользовательский слой, который создаёт состояние необычным образом, вы должны переопределить этот метод, чтобы убедиться, что это состояние уже создано, когда Keras пытается загрузить его значение при загрузке модели.

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию объекта.

Конфигурация объекта — это словарь Python (сериализуемый), содержащий информацию, необходимую для его повторного создания.

get_weights

Просмотреть исходный код

get_weights()

Возвращает значения layer.weights в виде списка NumPy-массивов.

load_own_variables

Просмотреть исходный код

load_own_variables(
    store
)

Загружает состояние слоя.

Вы можете переопределить этот метод, чтобы полностью контролировать, как загружается состояние слоя при вызове keras.models.load_model().

quantize

Просмотреть исходный код

quantize(
    mode
)

quantized_call

Просмотреть исходный код

quantized_call(
    *args, **kwargs
)

save_own_variables

Просмотреть исходный код

save_own_variables(
    store
)

Сохраняет состояние слоя.

Вы можете переопределить этот метод, чтобы полностью контролировать, как сохраняется состояние слоя при вызове model.save().

set_weights

Просмотреть исходный код

set_weights(
    weights
)

Устанавливает значения layer.weights из списка NumPy-массивов.

stateless_call

Просмотреть исходный код

stateless_call(
    trainable_variables,
    non_trainable_variables,
    *args,
    return_losses=False,
    **kwargs
)

Вызвать слой без побочных эффектов.

Примечание: non_trainable_variables включают не только необучаемые веса, такие как BatchNormalization статистики, но и состояние генератора случайных чисел (если в слое есть случайные операции, такие как dropout), и состояние Metric (если к слою прикреплены какие-либо метрики). Все это — элементы состояния слоя.

Пример:

model = ...
data = ...
trainable_variables = model.trainable_variables
non_trainable_variables = model.non_trainable_variables
# Call the model with zero side effects
outputs, non_trainable_variables = model.stateless_call(
    trainable_variables,
    non_trainable_variables,
    data,
)
# Attach the updated state to the model
# (until you do this, the model is still in its pre-call state).
for ref_var, value in zip(
    model.non_trainable_variables, non_trainable_variables
):
    ref_var.assign(value)

symbolic_call

Просмотреть исходный код

symbolic_call(
    *args, **kwargs
)

__call__

Просмотреть исходный код

__call__(
    *args, **kwargs
)

Вызов себя как функции.