tf.keras.layers.Dense

Просто обычный плотносвязанный слой нейронной сети.

Наследуется от: Layer, Operation

tf.keras.layers.Dense(
    units,
    activation=None,
    use_bias=True,
    kernel_initializer='glorot_uniform',
    bias_initializer='zeros',
    kernel_regularizer=None,
    bias_regularizer=None,
    activity_regularizer=None,
    kernel_constraint=None,
    bias_constraint=None,
    lora_rank=None,
    **kwargs
)

Используется в ноутбуках

Используется в руководстве	Используется в учебных пособиях
Расширенное автоматическое дифференцирование Отладка перенесенной в TensorFlow 2 обучающей конвейерной линии Эффективное использование Tensorflow 2 Примеры миграции: Canned Estimators Миграция ранней остановки	Переобучение и недообучение Прогнозирование временных рядов Загрузка pandas DataFrame Использование DTensors с Keras Введение в автокодировщики

Dense реализует операцию: output = activation(dot(input, kernel) + bias), где activation — это элементная функция активации, переданная в качестве аргумента activation, kernel — это матрица весов, созданная слоем, а bias — это вектор смещения, созданный слоем (применимо только в том случае, если use_bias равно True).

Примечание: Если вход в слой имеет ранг больше 2, то Dense вычисляет скалярное произведение между inputs и kernel вдоль последнего осей inputs и оси 0 kernel (используя tf.tensordot). Например, если вход имеет размеры (batch_size, d0, d1), то мы создаём kernel с формой (d1, units), и kernel работает вдоль оси 2 input над каждым подтензором размером (1, 1, d1) (таких подтензоров batch_size * d0). В этом случае выход будет иметь форму (batch_size, d0, units).

Аргументы
`units`	Положительное целое число, размерность выходного пространства.
`activation`	Функция активации для использования. Если не указано, не применяется никакая активация (т.е. линейная активация: `a(x) = x`).
`use_bias`	Булево значение, использует ли слой вектор смещения.
`kernel_initializer`	Инициализатор матрицы весов `kernel`.
`bias_initializer`	Инициализатор вектора смещения.
`kernel_regularizer`	Функция регуляризации, применяемая к матрице весов `kernel`.
`bias_regularizer`	Функция регуляризации, применяемая к вектору смещения.
`activity_regularizer`	Функция регуляризации, применяемая к выходу слоя (его "активации").
`kernel_constraint`	Функция ограничения, применяемая к матрице весов `kernel`.
`bias_constraint`	Функция ограничения, применяемая к вектору смещения.
`lora_rank`	Необязательное целое число. Если задано, прямой проход слоя будет реализовывать LoRA (Low-Rank Adaptation) с указанным рангом. LoRA устанавливает ядро слоя в нетренируемое и заменяет его дельтой по отношению к исходному ядру, полученной путем умножения двух обучаемых матриц меньшего ранга. Это может быть полезно для снижения затрат на обучение больших плотносвязанных слоёв. Вы также можете включить LoRA в существующий слой `Dense`, вызвав `layer.enable_lora(rank)`.

Форма входа
N-мерный тензор с формой: `(batch_size, ..., input_dim)`. Наиболее распространённым случаем является 2D вход с формой `(batch_size, input_dim)`.

Форма выхода
N-мерный тензор с формой: `(batch_size, ..., units)`. Например, для 2D входа с формой `(batch_size, input_dim)` выход будет иметь форму `(batch_size, units)`.

Атрибуты
`input`	Получает входной(ые) тензор(ы) символической операции. Возвращает только тензор(ы), соответствующие первому вызову операции.
`kernel`
`output`	Получает выходной(ые) тензор(ы) слоя. Возвращает только тензор(ы), соответствующие первому вызову операции.

Методы

`enable_lora`

Просмотреть исходный код

enable_lora(
    rank, a_initializer='he_uniform', b_initializer='zeros'
)

`from_config`

Просмотреть исходный код

@classmethod
from_config(
    config
)

Создаёт слой из его конфигурации.

Этот метод является обратным get_config, способным восстановить тот же самый слой из словаря конфигурации. Он не обрабатывает связность слоёв (обрабатывается сетью), а также веса (обрабатывается set_weights).

Аргументы
`config`	Словарь Python, обычно выход get_config.

Возвращает
Экземпляр слоя.

`quantized_build`

Просмотреть исходный код

quantized_build(
    input_shape, mode
)

`symbolic_call`

Просмотреть исходный код

symbolic_call(
    *args, **kwargs
)

Переменные класса
QUANTIZATION_MODE_ERROR_TEMPLATE	`("Invalid quantization mode. Expected one of ('int8', 'float8'). Received: " 'quantization_mode={mode}')`

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/keras/layers/Dense