tf.stop_gradient

Останавливает вычисление градиента.

tf.stop_gradient(
    input, name=None
)

При выполнении в графе этот оператор выводит свой входной тензор в неизменном виде.

При построении операций для вычисления градиентов этот оператор предотвращает учёт вклада его входных данных. Обычно генератор градиента добавляет операции в граф для вычисления производных заданной «функции потерь», рекурсивно определяя входные данные, которые повлияли на его вычисление. Если вы вставите этот оператор в граф, его входные данные будут замаскированы от генератора градиента. Они не будут учтены для вычисления градиентов.

Это полезно всякий раз, когда вы хотите вычислить значение с помощью TensorFlow, но хотите, чтобы значение рассматривалось как константа. Некоторые примеры включают:

• Алгоритм EM, где M-этап не должен включать обратное распространение через выход E-этапа.
• Обучение контрастной дивергенцией боллцмановских машин, где при дифференцировании функции энергии обучение не должно обратное распространение через граф, сгенерировавший выборки из модели.
• Обучение с антагонистическими примерами, где обратное распространение не должно происходить через процесс генерации антагонистического примера.