tf.contrib.model_pruning.MaskedBasicLSTMCell
Базовая ячейка LSTM с обрезкой.
Наследуется от: BasicLSTMCell
tf.contrib.model_pruning.MaskedBasicLSTMCell(
num_units, forget_bias=1.0, state_is_tuple=True, activation=None, reuse=None,
name=None
)
Переопределяет метод вызова tensorflow BasicLSTMCell и вставляет маски весов.
Реализация основана на: http://arxiv.org/abs/1409.2329
Мы добавляем forget_bias (по умолчанию: 1) к смещениям ворот забывания, чтобы уменьшить масштаб забывания в начале обучения.
Она не допускает обрезки ячейки, слоя проекции и не использует связи peep-hole: это базовая контрольная точка.
Для продвинутых моделей используйте полную tf.compat.v1.nn.rnn_cell.LSTMCell, которая следует за ней.
| Аргументы | |
|---|---|
num_units | целое число, число ячеек в ячейке LSTM. |
forget_bias | число с плавающей запятой, смещение, добавляемое к воротам забывания (см. выше). Необходимо установить значение 0.0 вручную при восстановлении из контрольных точек, обученных с помощью CudnnLSTM. |
state_is_tuple | Если True, принятые и возвращаемые состояния являются 2-кортежами из c_state и m_state. Если False, они конкатенируются по оси столбцов. Последнее поведение скоро будет устаревшим. |
activation | Функция активации внутренних состояний. По умолчанию: tanh. |
reuse | (необязательно) Python-логическое значение, описывающее, следует ли повторно использовать переменные в существующем объёме. Если не True, и существующий объём уже содержит заданные переменные, возникает ошибка. |
name | Строка, имя слоя. Слои с одинаковым именем будут совместно использовать веса, но для предотвращения ошибок в таких случаях требуется reuse=True. При восстановлении из контрольных точек, обученных с помощью CudnnLSTM, необходимо использовать CudnnCompatibleLSTMCell. |
| Атрибуты | |
|---|---|
graph | УСТАРЕВШАЯ ФУНКЦИЯ |
output_size | Целое число или TensorShape: размер выходов, производимых этой ячейкой. |
scope_name | |
state_size | Размер(ы) состояния(й), используемых этой ячейкой. Его можно представить как целое число, TensorShape или кортеж целых чисел или TensorShapes. |
Методы
get_initial_state
get_initial_state(
inputs=None, batch_size=None, dtype=None
)
zero_state
zero_state(
batch_size, dtype
)
Возвращает тензор(ы) состояния, заполненные нулями.
| Аргументы | |
|---|---|
batch_size | целое число, число с плавающей запятой или тензор единиц, представляющий размер партии. |
dtype | тип данных, который следует использовать для состояния. |
| Возвращаемое значение | |
|---|---|
Если state_size является целым числом или TensorShape, то возвращаемое значение — это тензор N-D формы [batch_size, state_size], заполненный нулями. Если |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/contrib/model_pruning/MaskedBasicLSTMCell