tf.stop_gradient

Остановка вычисления градиента.

tf.stop_gradient(
    input, name=None
)

При выполнении в графе этот оператор выводит входной тензор без изменений.

При построении операций для вычисления градиентов этот оператор предотвращает учет вклада его входных данных. Обычно генератор градиента добавляет операции в граф для вычисления производных заданной «потери», рекурсивно определяя входящие данные, которые повлияли на её вычисление. Если вы вставляете этот оператор в граф, его входные данные маскируются генератором градиента. Они не учитываются при вычислении градиентов.

Это полезно в любое время, когда вы хотите вычислить значение с помощью TensorFlow, но нужно представить, что это значение — константа. Некоторые примеры включают:

• Алгоритм EM, где M-этап не должен включать обратное распространение через выход E-этапа.
• Обучение методом контрастной дивергенции для машин Больцмана, где при дифференцировании функции энергии обучение не должно происходить обратного распространения через граф, который сгенерировал выборки из модели.
• Обучение с помощью противоборствующего обучения, где обратное распространение не должно происходить через процесс генерации примера противоборствующего обучения.