tf.contrib.opt.clip_gradients_by_global_norm
Обрезает градиенты многозадачной функции потерь по их глобальной норме.
tf.contrib.opt.clip_gradients_by_global_norm(
gradients_variables, clip_norm=20.0
)
Игнорирует все нулевые тензоры при вычислении глобальной нормы.
| Аргументы | |
|---|---|
gradients_variables | список пар (градиент, переменная). |
clip_norm | скалярный тензор с плавающей точкой, глобальная норма для обрезки. Значение по умолчанию — 20.0. |
| Возвращает | |
|---|---|
list | Список пар того же типа, что и gradients_variables. |
fixed_global_norm | 0-мерный (скалярный) тензор, представляющий глобальную норму. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/contrib/opt/clip_gradients_by_global_norm