tf.compat.v2.keras.layers.LSTM

Слой памяти с долгой краткосрочной памятью — Hochreiter 1997.

Наследуется от: LSTM

tf.compat.v2.keras.layers.LSTM(
    units, activation='tanh', recurrent_activation='sigmoid', use_bias=True,
    kernel_initializer='glorot_uniform', recurrent_initializer='orthogonal',
    bias_initializer='zeros', unit_forget_bias=True, kernel_regularizer=None,
    recurrent_regularizer=None, bias_regularizer=None, activity_regularizer=None,
    kernel_constraint=None, recurrent_constraint=None, bias_constraint=None,
    dropout=0.0, recurrent_dropout=0.0, implementation=2, return_sequences=False,
    return_state=False, go_backwards=False, stateful=False, time_major=False,
    unroll=False, **kwargs
)

В зависимости от доступного оборудования и ограничений времени выполнения, этот слой выберет различные реализации (на основе cuDNN или чисто на Tensorflow) для максимальной производительности. Если доступна видеокарта (GPU) и все аргументы слоя соответствуют требованиям ядра CuDNN (см. подробности ниже), слой будет использовать быструю реализацию cuDNN.

Требования для использования реализации cuDNN:

1. activation == 'tanh'
2. recurrent_activation == 'sigmoid'
3. recurrent_dropout == 0
4. unroll is False
5. use_bias is True
6. Входы не замаскированы и не имеют строгого правого заполнения.

Аргументы вызова:

• inputs: 3D тензор.
• mask: Бинарный тензор формы (samples, timesteps) указывающий, следует ли маскировать данный временной шаг (необязательно, по умолчанию None).
• training: Python-булево значение указывающее, должен ли слой вести себя в режиме обучения или в режиме вывода. Этот аргумент передаётся ячейке при её вызове. Это актуально только если используется dropout или recurrent_dropout (необязательно, по умолчанию None).
• initial_state: Список начальных тензоров состояния, которые должны быть переданы в первый вызов ячейки (необязательно, по умолчанию None, что приводит к созданию тензоров начального состояния, заполненных нулями).

Методы

get_dropout_mask_for_cell

Просмотреть исходный код

get_dropout_mask_for_cell(
    inputs, training, count=1
)

Получить маску дропаута для входного тензора ячейки RNN.

Создаст маску на основе контекста, если нет существующей кэшированной маски. Если новая маска сгенерирована, она обновит кэш в ячейке.

get_initial_state

Просмотреть исходный код

get_initial_state(
    inputs
)

get_recurrent_dropout_mask_for_cell

Просмотреть исходный код

get_recurrent_dropout_mask_for_cell(
    inputs, training, count=1
)

Получить маску рекуррентного дропаута для ячейки RNN.

Создаст маску на основе контекста, если нет существующей кэшированной маски. Если новая маска сгенерирована, она обновит кэш в ячейке.

reset_dropout_mask

Просмотреть исходный код

reset_dropout_mask()

Сбросить кэшированные маски дропаута, если они есть.

Это важно для слоя RNN, чтобы вызвать это в методе call(), чтобы очистить кэшированную маску перед вызовом cell.call(). Маска должна кэшироваться на временном шаге в рамках одного пакета, но не должна кэшироваться между пакетами. В противном случае это введёт необоснованный перекос в отношении определённого индекса данных в пакете.

reset_recurrent_dropout_mask

Просмотреть исходный код

reset_recurrent_dropout_mask()

Сбросить кэшированные маски рекуррентного дропаута, если они есть.

Это важно для слоя RNN, чтобы вызвать это в методе call(), чтобы очистить кэшированную маску перед вызовом cell.call(). Маска должна кэшироваться на временном шаге в рамках одного пакета, но не должна кэшироваться между пакетами. В противном случае это введёт необоснованный перекос в отношении определённого индекса данных в пакете.

reset_states

Просмотреть исходный код

reset_states(
    states=None
)