tf.raw_ops.StopGradient

Остановка вычисления градиента.

tf.raw_ops.StopGradient(
    input, name=None
)

При выполнении в графе этот оператор выводит входной тензор без изменений.

При построении операторов для вычисления градиентов этот оператор предотвращает учет вклада его входов. Обычно генератор градиентов добавляет операторы в граф для вычисления производных заданной «потери», рекурсивно определяя входы, которые способствовали её вычислению. Если вы вставляете этот оператор в граф, его входы маскируются генератором градиентов. Они не учитываются при вычислении градиентов.

Это полезно всякий раз, когда вы хотите вычислить значение с помощью TensorFlow, но хотите представить, что это значение было константой. Например, функцию softmax для вектора x можно записать как

def softmax(x):
  numerator = tf.exp(x)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Однако это уязвимо к переполнению, если значения в x велики. Альтернативный, более стабильный способ — вычесть максимальное значение x из каждого значения.

def stable_softmax(x):
  z = x - tf.reduce_max(x)
  numerator = tf.exp(z)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Однако, когда мы делаем обратное распространение через softmax к x, мы не хотим делать обратное распространение через tf.reduce_max(x) (если максимальные значения не уникальны, то градиент может перейти в неправильный вход) и рассматривать это как константу. Поэтому мы должны записать это как

def stable_softmax(x):
  z = x - tf.stop_gradient(tf.reduce_max(x))
  numerator = tf.exp(z)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Другие примеры включают:

• Алгоритм EM, где M-шаг не должен включать обратное распространение через вывод E-шага.
• Обучение с помощью контрастной расходимости для машин Больцмана, где при дифференцировании функции энергии обучение не должно обратным распространением через граф, который сгенерировал выборки из модели.
• Обучение с помощью антагонистических примеров, где обратное распространение не должно происходить через процесс генерации антагонистических примеров.