tf.keras.Layer

Это класс, от которого наследуются все слои.

Наследуется от: Operation

tf.keras.Layer(
    *,
    activity_regularizer=None,
    trainable=True,
    dtype=None,
    autocast=True,
    name=None,
    **kwargs
)

Используется в ноутбуках

Слой — это вызываемый объект, который принимает на вход один или несколько тензоров и возвращает один или несколько тензоров. Он включает в себя вычисление, определённое в методе call(), и состояние (переменные весов). Состояние может быть создано:

• в методе __init__(), например, через self.add_weight();
• в необязательном методе build(), который вызывается при первом применении __call__() к слою и предоставляет форму(ы) ввода(ов), которая(ые) могла(и) быть неизвестной(ыми) на момент инициализации.

Слои являются рекурсивно композиционными: если вы присваиваете экземпляр слоя как атрибут другому слою, внешний слой начнёт отслеживать веса, созданные внутренним слоем. Вложенные слои должны быть созданы в методе __init__() или методе build().

Пользователи просто создают слой, а затем используют его как вызываемый объект.

Мы рекомендуем потомкам Layer реализовать следующие методы:

• __init__(): Определяет пользовательские атрибуты слоя и создаёт веса слоя, которые не зависят от форм входных данных, используя add_weight() или другое состояние.
• build(self, input_shape): Этот метод может быть использован для создания весов, которые зависят от формы(форм) входных данных, используя add_weight() или другое состояние. __call__() автоматически построит слой (если он ещё не был построен), вызвав build().
• call(self, *args, **kwargs): Вызывается в __call__ после того, как убедитесь, что build() был вызван. call() выполняет логику применения слоя к аргументам ввода. Два зарезервированных ключевых аргумента, которые вы можете использовать в call(): 1. training (булево значение, указывающее, находится ли вызов в режиме вывода или обучения). 2. mask (булевой тензор, кодирующий замаскированные шаги во входных данных, используемый, например, в слоях RNN). Типичная сигнатура этого метода — call(self, inputs), и пользователь может дополнительно добавить training и mask, если слой их требует.
• get_config(self): Возвращает словарь, содержащий конфигурацию, используемую для инициализации этого слоя. Если ключи отличаются от аргументов в __init__(), то переопределите также from_config(self). Этот метод используется при сохранении слоя или модели, содержащей этот слой.

Примеры:

Вот базовый пример: слой с двумя переменными, w и b, который возвращает y = w . x + b. Он демонстрирует, как реализовать build() и call(). Переменные, заданные как атрибуты слоя, отслеживаются как веса слоёв (в layer.weights).

class SimpleDense(Layer):
    def __init__(self, units=32):
        super().__init__()
        self.units = units

    # Create the state of the layer (weights)
    def build(self, input_shape):
        self.kernel = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="glorot_uniform",
            trainable=True,
            name="kernel",
        )
        self.bias = self.add_weight(
            shape=(self.units,),
            initializer="zeros",
            trainable=True,
            name="bias",
        )

    # Defines the computation
    def call(self, inputs):
        return ops.matmul(inputs, self.kernel) + self.bias

# Instantiates the layer.
linear_layer = SimpleDense(4)

# This will also call `build(input_shape)` and create the weights.
y = linear_layer(ops.ones((2, 2)))
assert len(linear_layer.weights) == 2

# These weights are trainable, so they're listed in `trainable_weights`:
assert len(linear_layer.trainable_weights) == 2

Помимо обучаемых весов, обновляемых с помощью обратного распространения во время обучения, слои также могут иметь необучаемые веса. Эти веса предназначены для ручного обновления во время call(). Вот пример слоя, который вычисляет текущую сумму его входных данных:

class ComputeSum(Layer):

  def __init__(self, input_dim):
      super(ComputeSum, self).__init__()
      # Create a non-trainable weight.
      self.total = self.add_weight(
        shape=(),
        initializer="zeros",
        trainable=False,
        name="total",
      )

  def call(self, inputs):
      self.total.assign(self.total + ops.sum(inputs))
      return self.total

my_sum = ComputeSum(2)
x = ops.ones((2, 2))
y = my_sum(x)

assert my_sum.weights == [my_sum.total]
assert my_sum.non_trainable_weights == [my_sum.total]
assert my_sum.trainable_weights == []

Методы

add_loss

Просмотреть исходный код

add_loss(
    loss
)

Можно вызвать внутри метода call(), чтобы добавить скалярную потерю.

Пример:

class MyLayer(Layer):
    ...
    def call(self, x):
        self.add_loss(ops.sum(x))
        return x

add_metric

Просмотреть исходный код

add_metric()

add_variable

Просмотреть исходный код

add_variable(
    shape,
    initializer,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    name=None
)

Добавить переменную веса в слой.

Псевдоним add_weight().

add_weight

Просмотреть исходный код

add_weight(
    shape=None,
    initializer=None,
    dtype=None,
    trainable=True,
    autocast=True,
    regularizer=None,
    constraint=None,
    aggregation='mean',
    name=None
)

Добавить переменную веса в слой.

build

Просмотреть исходный код

build(
    input_shape
)

build_from_config

Просмотреть исходный код

build_from_config(
    config
)

Строит состояния слоя с заданным словарем конфигурации.

По умолчанию этот метод вызывает метод build(config["input_shape"]), который создает веса на основе формы входных данных слоя в предоставленной конфигурации. Если ваша конфигурация содержит другую информацию, необходимую для загрузки состояния слоя, вы должны переопределить этот метод.

call

Просмотреть исходный код

call(
    *args, **kwargs
)

compute_mask

Просмотреть исходный код

compute_mask(
    inputs, previous_mask
)

compute_output_shape

Просмотреть исходный код

compute_output_shape(
    *args, **kwargs
)

compute_output_spec

Просмотреть исходный код

compute_output_spec(
    *args, **kwargs
)

count_params

Просмотреть исходный код

count_params()

Подсчитывает общее количество скаляров, составляющих веса.

from_config

Просмотреть исходный код

@classmethod
from_config(
    config
)

Создает слой из его конфигурации.

Этот метод является обратным get_config, способным создать тот же слой из словаря конфигурации. Он не обрабатывает соединение слоев (обрабатывается сетью), ни веса (обрабатывается set_weights).

get_build_config

Просмотреть исходный код

get_build_config()

Возвращает словарь с формой входных данных слоя.

Этот метод возвращает словарь конфигурации, который может быть использован методом build_from_config(config) для создания всех состояний (например, переменных и таблиц поиска), необходимых слою.

По умолчанию конфигурация содержит только форму входных данных, с которой был построен слой. Если вы пишете пользовательский слой, который создаёт состояние нестандартным образом, вы должны переопределить этот метод, чтобы убедиться, что это состояние уже создано, когда Keras пытается загрузить его значение при загрузке модели.

get_config

Просмотреть исходный код

get_config()

Возвращает конфигурацию объекта.

Конфигурация объекта — это словарь Python (сериализуемый), содержащий информацию, необходимую для его повторного создания.

get_weights

Просмотреть исходный код

get_weights()

Возвращает значения layer.weights в виде списка массивов NumPy.

load_own_variables

Просмотреть исходный код

load_own_variables(
    store
)

Загружает состояние слоя.

Вы можете переопределить этот метод, чтобы полностью контролировать, как загружается состояние слоя при вызове keras.models.load_model().

quantize

Просмотреть исходный код

quantize(
    mode
)

quantized_call

Просмотреть исходный код

quantized_call(
    *args, **kwargs
)

save_own_variables

Просмотреть исходный код

save_own_variables(
    store
)

Сохраняет состояние слоя.

Вы можете переопределить этот метод, чтобы полностью контролировать, как сохраняется состояние слоя при вызове model.save().

set_weights

Просмотреть исходный код

set_weights(
    weights
)

Устанавливает значения layer.weights из списка массивов NumPy.

stateless_call

Просмотреть исходный код

stateless_call(
    trainable_variables,
    non_trainable_variables,
    *args,
    return_losses=False,
    **kwargs
)

Вызов слоя без побочных эффектов.

Примечание: non_trainable_variables включают не только необучаемые веса, такие как BatchNormalization статистики, но также и состояние генератора случайных чисел (если в слое есть какие-либо случайные операции, такие как dropout), и состояние Metric (если к слою присоединены какие-либо метрики). Все это элементы состояния слоя.

Пример:

model = ...
data = ...
trainable_variables = model.trainable_variables
non_trainable_variables = model.non_trainable_variables
# Call the model with zero side effects
outputs, non_trainable_variables = model.stateless_call(
    trainable_variables,
    non_trainable_variables,
    data,
)
# Attach the updated state to the model
# (until you do this, the model is still in its pre-call state).
for ref_var, value in zip(
    model.non_trainable_variables, non_trainable_variables
):
    ref_var.assign(value)

symbolic_call

Посмотреть исходный код

symbolic_call(
    *args, **kwargs
)

__call__

Посмотреть исходный код

__call__(
    *args, **kwargs
)

Вызов self как функции.