tf.UnconnectedGradients
Определяет поведение вычисления градиента, когда y не зависит от x.
Градиент y по x может быть равен нулю по двум разным причинам: в графе может не быть дифференцируемого пути, соединяющего x и y (поэтому мы можем статически доказать, что градиент равен нулю), либо значения тензоров во время выполнения в конкретном запуске могут приводить к нулевому градиенту (например, если блок ReLU не активирован). Чтобы различать эти два случая, можно выбрать значение, возвращаемое для градиента, если в графе нет пути от x к y:
-
NONE: указывает, что будет возвращено значение [None], если пути от x к y нет -
ZERO: указывает, что будет возвращен нулевой тензор формы x.
| Переменные класса | |
|---|---|
| NONE | <UnconnectedGradients.NONE: 'none'> |
| ZERO | <UnconnectedGradients.ZERO: 'zero'> |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/UnconnectedGradients