tf.keras.layers.Dense

Обычный плотно связанный слой нейронной сети.

Наследуется от: Layer, Module

tf.keras.layers.Dense(
    units,
    activation=None,
    use_bias=True,
    kernel_initializer='glorot_uniform',
    bias_initializer='zeros',
    kernel_regularizer=None,
    bias_regularizer=None,
    activity_regularizer=None,
    kernel_constraint=None,
    bias_constraint=None,
    **kwargs
)

Dense реализует операцию: output = activation(dot(input, kernel) + bias), где activation — функция активации, применяемая поэлементно в качестве аргумента activation, kernel — матрица весов, созданная слоем, и bias — вектор смещений, созданный слоем (применима только если use_bias равен True). Все эти атрибуты относятся к Dense.

Примечание: Если вход в слой имеет ранг больше 2, то Dense вычисляет скалярное произведение между inputs и kernel по последней оси inputs и оси 0 kernel (используя tf.tensordot). Например, если вход имеет размерность (batch_size, d0, d1), то мы создаём kernel с формой (d1, units), а операция kernel выполняется вдоль оси 2 input, для каждого подтензора с формой (1, 1, d1) (таких подтензоров batch_size * d0). В этом случае выход будет иметь форму (batch_size, d0, units).

Кроме того, атрибуты слоя нельзя изменить после того, как слой был вызван один раз (кроме атрибута trainable). Когда передаётся популярный аргумент input_shape, Keras создаст входной слой, который нужно вставить перед текущим слоем. Это можно рассматривать как явное определение InputLayer.

Пример:

# Create a `Sequential` model and add a Dense layer as the first layer.
model = tf.keras.models.Sequential()
model.add(tf.keras.Input(shape=(16,)))
model.add(tf.keras.layers.Dense(32, activation='relu'))
# Now the model will take as input arrays of shape (None, 16)
# and output arrays of shape (None, 32).
# Note that after the first layer, you don't need to specify
# the size of the input anymore:
model.add(tf.keras.layers.Dense(32))
model.output_shape
(None, 32)

Форма входа:

N-мерный тензор с формой: (batch_size, ..., input_dim). Наиболее распространённый случай — 2D вход с формой (batch_size, input_dim).

Форма выхода:

N-мерный тензор с формой: (batch_size, ..., units). Например, для 2D входа с формой (batch_size, input_dim), выход будет иметь форму (batch_size, units).