tf.lite.experimental.nn.TFLiteLSTMCell
Ячейка рекуррентной сети с долговременной краткосрочной памятью (LSTM).
Наследуется от: LayerRNNCell
tf.lite.experimental.nn.TFLiteLSTMCell(
num_units, use_peepholes=False, cell_clip=None, initializer=None, num_proj=None,
proj_clip=None, num_unit_shards=None, num_proj_shards=None, forget_bias=1.0,
state_is_tuple=True, activation=None, reuse=None, name=None, dtype=None
)
Используется только для TfLite, предоставляет подсказки и также делает переменные в нужном формате для tflite-операций (транспонированные и разделенные).
Реализация по умолчанию без обратных связей основана на:
https://pdfs.semanticscholar.org/1154/0131eae85b2e11d53df7f1360eeb6476e7f4.pdf
Felix Gers, Jurgen Schmidhuber и Fred Cummins. «Обучение забыванию: Непрерывное прогнозирование с LSTM». IET, 850-855, 1999.
Реализация с обратными связями основана на:
https://research.google.com/pubs/archive/43905.pdf
Hasim Sak, Andrew Senior и Francoise Beaufays. «Архитектуры рекуррентных нейронных сетей с долговременной краткосрочной памятью для моделирования акустики в больших масштабах». INTERSPEECH, 2014.
Класс использует необязательные связи обратной связи, необязательное ограничение ячейки и необязательный проекционный слой.
Обратите внимание, что эта ячейка не оптимизирована для производительности. Пожалуйста, используйте tf.contrib.cudnn_rnn.CudnnLSTM для лучшей производительности на GPU или tf.contrib.rnn.LSTMBlockCell и tf.contrib.rnn.LSTMBlockFusedCell для лучшей производительности на CPU.
| Аргументы | |
|---|---|
num_units | int, Количество ячеек в ячейке LSTM. |
use_peepholes | bool, установить True, чтобы включить диагональные/обратные связи. |
cell_clip | (необязательно) Значение с плавающей точкой, если указано, состояние ячейки ограничивается этим значением до активации выходных данных ячейки. |
initializer | (необязательно) Инициализатор, используемый для матриц весов и проекций. |
num_proj | (необязательно) int, размерность выходных данных для матриц проекций. Если None, проекция не выполняется. |
proj_clip | (необязательно) Значение с плавающей точкой. Если num_proj > 0 и proj_clip указаны, то спроецированные значения ограничиваются по элементам до [-proj_clip, proj_clip]. |
num_unit_shards | Устарело, будет удалено в январе 2017 г. Используйте вместо этого разделитель области переменных. |
num_proj_shards | Устарело, будет удалено в январе 2017 г. Используйте вместо этого разделитель области переменных. |
forget_bias | Смещения забывающей ячейки по умолчанию инициализируются значением 1, чтобы уменьшить масштаб забывания в начале обучения. Необходимо установить значение вручную в 0.0 при восстановлении из контрольных точек, обученных с помощью CudnnLSTM. |
state_is_tuple | Если True, принятые и возвращаемые состояния являются кортежами из c_state и m_state. Если False, они конкатенируются вдоль оси столбцов. Это последнее поведение вскоре будет устаревшим. |
activation | Функция активации внутренних состояний. По умолчанию: tanh. |
reuse | (необязательно) Логическое значение Python, описывающее, нужно ли повторно использовать переменные в существующей области. Если не True, и существующая область уже содержит заданные переменные, генерируется ошибка. |
name | Строка, имя слоя. Слои с одинаковым именем будут использовать общие веса, но для предотвращения ошибок в таких случаях требуется reuse=True. |
dtype | Тип данных по умолчанию для слоя (значение по умолчанию None означает использование типа первого входного значения). Требуется, когда build вызывается до call. При восстановлении из контрольных точек, обученных с помощью CudnnLSTM, используйте CudnnCompatibleLSTMCell вместо этого. |
| Атрибуты | |
|---|---|
graph | УСТАРЕВШАЯ ФУНКЦИЯ |
output_size | Целое число или TensorShape: размер выходных данных, создаваемых этой ячейкой. |
scope_name | |
state_size | Размер(ы) состояния(ий), используемых этой ячейкой. Его можно представить целым числом, TensorShape или кортежем целых чисел или TensorShape. |
Методы
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
zero_state
zero_state(
batch_size, dtype
)
Возвращает тензор(ы) состояния, заполненные нулями.
| Аргументы | |
|---|---|
batch_size | int, float или тензор единиц, представляющий размер пакета. |
dtype | тип данных, который следует использовать для состояния. |
| Возвращаемое значение | |
|---|---|
Если state_size является целым числом или TensorShape, то возвращаемое значение — тензор N-D формы [batch_size, state_size], заполненый нулями. Если |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/lite/experimental/nn/TFLiteLSTMCell