tf.raw_ops.StopGradient

Останавливает вычисление градиента.

tf.raw_ops.StopGradient(
    input, name=None
)

При выполнении в графе этот оператор выводит свой входной тензор как есть.

При построении операторов для вычисления градиентов этот оператор предотвращает учет вклада его входных данных. Обычно генератор градиентов добавляет в граф операторы для вычисления производных заданной «потери» путём рекурсивного определения входных данных, которые повлияли на её вычисление. Если вы вставляете этот оператор в граф, его входы маскируются от генератора градиентов. Они не учитываются для вычисления градиентов.

Это полезно всякий раз, когда вы хотите вычислить значение с помощью TensorFlow, но вам нужно предположить, что это значение является константой. Например, функцию softmax для вектора x можно записать как

def softmax(x):
  numerator = tf.exp(x)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Однако это уязвимо к переполнению, если значения в x велики. Альтернативный более устойчивый способ — вычесть максимальное значение x из каждого из значений.

def stable_softmax(x):
  z = x - tf.reduce_max(x)
  numerator = tf.exp(z)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Однако, когда мы производим обратное распространение через softmax к x, мы не хотим производить обратное распространение через tf.reduce_max(x) (если максимальные значения не уникальны, то градиент может передаться не тому входу) вычисление и рассматривать его как константу. Поэтому мы должны записать это как

def stable_softmax(x):
  z = x - tf.stop_gradient(tf.reduce_max(x))
  numerator = tf.exp(z)
  denominator = tf.reduce_sum(numerator)
  return numerator / denominator

Вот несколько других примеров:

• Алгоритм EM, где M-шаг не должен включать обратное распространение через выход E-шага.
• Обучение методом контрастной дивергенции машин Больцмана, где при дифференцировании функции энергии обучение не должно производить обратное распространение через граф, который сгенерировал выборки из модели.
• Обучение с помощью антагонистических примеров, где обратное распространение не должно происходить через процесс генерации антагонистического примера.