tf.contrib.estimator.clip_gradients_by_norm

Возвращает оптимизатор, который обрезает градиенты перед их применением.

tf.contrib.estimator.clip_gradients_by_norm(
    optimizer, clip_norm
)

Пример:

optimizer = tf.train.ProximalAdagradOptimizer(
    learning_rate=0.1,
    l1_regularization_strength=0.001)
optimizer = tf.contrib.estimator.clip_gradients_by_norm(
    optimizer, clip_norm)
estimator = tf.estimator.DNNClassifier(
    feature_columns=[...],
    hidden_units=[1024, 512, 256],
    optimizer=optimizer)