tf.signal.mfccs_from_log_mel_spectrograms

Вычисляет log_mel_spectrograms MFCC.

tf.signal.mfccs_from_log_mel_spectrograms(
    log_mel_spectrograms, name=None
)

Реализовано с помощью совместимых с GPU операций и поддерживает градиенты.

Вычисление коэффициентов мел-частотного кепстра (MFCC) состоит из взятия DCT-II логарифмически-масштабированного спектрограммы мел-масштаба. MFCC в HTK использует особую шкалу DCT-II, которая представляет собой практически ортогональную нормализацию. Мы следуем этой конвенции.

Все num_mel_bins MFCC возвращаются, и от вызывающей стороны зависит выбор подмножества MFCC, в зависимости от задачи. Например, для распознавания речи обычно используются только первые несколько, так как это приводит к приблизительно инвариантной к тону представлению сигнала.

Например:

batch_size, num_samples, sample_rate = 32, 32000, 16000.0
# A Tensor of [batch_size, num_samples] mono PCM samples in the range [-1, 1].
pcm = tf.random.normal([batch_size, num_samples], dtype=tf.float32)

# A 1024-point STFT with frames of 64 ms and 75% overlap.
stfts = tf.signal.stft(pcm, frame_length=1024, frame_step=256,
                       fft_length=1024)
spectrograms = tf.abs(stfts)

# Warp the linear scale spectrograms into the mel-scale.
num_spectrogram_bins = stfts.shape[-1].value
lower_edge_hertz, upper_edge_hertz, num_mel_bins = 80.0, 7600.0, 80
linear_to_mel_weight_matrix = tf.signal.linear_to_mel_weight_matrix(
  num_mel_bins, num_spectrogram_bins, sample_rate, lower_edge_hertz,
  upper_edge_hertz)
mel_spectrograms = tf.tensordot(
  spectrograms, linear_to_mel_weight_matrix, 1)
mel_spectrograms.set_shape(spectrograms.shape[:-1].concatenate(
  linear_to_mel_weight_matrix.shape[-1:]))

# Compute a stabilized log to get log-magnitude mel-scale spectrograms.
log_mel_spectrograms = tf.math.log(mel_spectrograms + 1e-6)

# Compute MFCCs from log_mel_spectrograms and take the first 13.
mfccs = tf.signal.mfccs_from_log_mel_spectrograms(
  log_mel_spectrograms)[..., :13]