tf.nn.rnn_cell.LSTMCell
Ячейка рекуррентной сети с длинной краткосрочной памятью (LSTM).
Наследуется от: LayerRNNCell
tf.nn.rnn_cell.LSTMCell(
num_units, use_peepholes=False, cell_clip=None, initializer=None, num_proj=None,
proj_clip=None, num_unit_shards=None, num_proj_shards=None, forget_bias=1.0,
state_is_tuple=True, activation=None, reuse=None, name=None, dtype=None,
**kwargs
)
По умолчанию реализация без peephole основана на:
https://pdfs.semanticscholar.org/1154/0131eae85b2e11d53df7f1360eeb6476e7f4.pdf
Felix Gers, Jurgen Schmidhuber и Fred Cummins. «Обучение забыванию: непрерывное предсказание с LSTM». IET, 850-855, 1999.
Реализация с peephole основана на:
https://research.google.com/pubs/archive/43905.pdf
Hasim Sak, Andrew Senior и Francoise Beaufays. «Архитектуры рекуррентных нейронных сетей с долгой краткосрочной памятью для акустического моделирования в больших масштабах». INTERSPEECH, 2014.
Класс использует необязательные peep-hole подключения, необязательное ограничение состояния ячейки и необязательный проекционный слой.
Обратите внимание, что эта ячейка не оптимизирована для производительности. Пожалуйста, используйте tf.contrib.cudnn_rnn.CudnnLSTM для лучшей производительности на GPU или tf.contrib.rnn.LSTMBlockCell и tf.contrib.rnn.LSTMBlockFusedCell для лучшей производительности на CPU.
| Аргументы | |
|---|---|
num_units | int, Количество ячеек в ячейке LSTM. |
use_peepholes | bool, установить значение True, чтобы включить диагональные/peephole соединения. |
cell_clip | (необязательно) Числовое значение с плавающей запятой. Если указано, состояние ячейки ограничивается этим значением до активации выхода ячейки. |
initializer | (необязательно) Инициализатор для использования для весов и проекционных матриц. |
num_proj | (необязательно) int, размерность выхода для проекционных матриц. Если None, проекция не выполняется. |
proj_clip | (необязательно) Числовое значение с плавающей запятой. Если num_proj > 0 и proj_clip заданы, то спроектированные значения ограничиваются по элементам в пределах [-proj_clip, proj_clip]. |
num_unit_shards | Устарело, будет удалено в январе 2017 года. Используйте вместо этого партицинер области переменных. |
num_proj_shards | Устарело, будет удалено в январе 2017 года. Используйте вместо этого партицинер области переменных. |
forget_bias | Смещения забывания шлюза по умолчанию инициализируются значением 1, чтобы уменьшить масштаб забывания в начале обучения. Необходимо установить его вручную в 0.0, когда восстанавливаются контрольные точки из CudnnLSTM. |
state_is_tuple | Если True, принятые и возвращаемые состояния являются парами из c_state и m_state. Если False, они конкатенируются вдоль оси столбца. Это последнее поведение скоро будет устаревшим. |
activation | Функция активации внутренних состояний. По умолчанию: tanh. Также может быть строкой, которая находится в именах функций активации Keras. |
reuse | (необязательно) Булево значение Python, описывающее, следует ли повторно использовать переменные в существующей области. Если не True, а существующая область уже содержит заданные переменные, возникает ошибка. |
name | Строка, имя слоя. Слои с одинаковым именем будут использовать общие веса, но для предотвращения ошибок в таких случаях требуется reuse=True. |
dtype | Тип данных по умолчанию слоя (по умолчанию None означает использовать тип первого входного значения). Требуется, когда build вызывается до call. |
**kwargs | Словарь, свойства с именованными ключами для общих атрибутов слоя, таких как trainable и т.д., при создании ячейки из конфигураций get_config(). При восстановлении из контрольных точек, обученных CudnnLSTM, используйте CudnnCompatibleLSTMCell вместо этого. |
| Атрибуты | |
|---|---|
graph | УСТАРЕВШАЯ ФУНКЦИЯ |
output_size | Целое число или TensorShape: размер выходов, генерируемых этой ячейкой. |
scope_name | |
state_size | Размер(ы) состояния(ий), используемого(ых) этой ячейкой. Он может быть представлен целым числом, TensorShape или кортежем целых чисел или TensorShape. |
Методы
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
zero_state
zero_state(
batch_size, dtype
)
Возвращает тензор(ы) состояния с нулевыми значениями.
| Аргументы | |
|---|---|
batch_size | int, float или тензор единицы, представляющий размер пакета. |
dtype | тип данных для использования состояния. |
| Возвращаемое значение | |
|---|---|
Если state_size является целым числом или TensorShape, то возвращаемое значение является тензором N-D с формой [batch_size, state_size] заполненным нулями. Если |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/nn/rnn_cell/LSTMCell