tf.debugging.enable_check_numerics

Включить проверку числовых значений тензоров в режиме eager/graph.

tf.debugging.enable_check_numerics(
    stack_height_limit=30, path_length_limit=50
)

Механизм проверки числовых значений приведет к ошибке при выполнении TensorFlow eager или в режиме графа, как только выходной тензор операции содержит бесконечность или NaN.

Этот метод идемпотентен. Его многократное вызов эквивалентно его вызову один раз.

Этот метод действует только в потоке, в котором он вызван.

Когда выходной тензор с плавающей точкой операции содержит бесконечность или NaN, будет брошено исключение tf.errors.InvalidArgumentError с сообщением об ошибке, содержащим следующую информацию:

• Тип операции, которая сгенерировала тензор с некорректными числовыми значениями.
• Тип данных (dtype) тензора.
• Форма тензора (в той мере, в которой она известна на момент выполнения eager или построения графа).
• Имя содержащего графа (если доступно).
• (Только режим графа): трассировка стека создания операции внутри графа с ограничением по высоте стека и длине пути для наглядности. Фреймы стека, относящиеся к коду пользователя (в отличие от внутреннего кода tensorflow), выделяются стрелкой текста ("->").
• (Только режим eager): количество элементов тензора, нарушающих правила, равных бесконечности и NaN соответственно.

После включения механизм проверки числовых значений можно отключить, используя tf.debugging.disable_check_numerics().

Пример использования:

1. Обработка бесконечности во время выполнения графа tf.function:

   import tensorflow as tf
   
   tf.debugging.enable_check_numerics()
   
   @tf.function
   def square_log_x_plus_1(x):
     v = tf.math.log(x + 1)
     return tf.math.square(v)
   
   x = -1.0
   
   # When the following line runs, a function graph will be compiled
   # from the Python function `square_log_x_plus_1()`. Due to the
   # `enable_check_numerics()` call above, the graph will contain
   # numerics checking ops that will run during the function graph's
   # execution. The function call generates an -infinity when the Log
   # (logarithm) op operates on the output tensor of the Add op.
   # The program errors out at this line, printing an error message.
   y = square_log_x_plus_1(x)
   z = -y
   

2. Обработка NaN во время eager выполнения:

   import numpy as np
   import tensorflow as tf
   
   tf.debugging.enable_check_numerics()
   
   x = np.array([[0.0, -1.0], [4.0, 3.0]])
   
   # The following line executes the Sqrt op eagerly. Due to the negative
   # element in the input array, a NaN is generated. Due to the
   # `enable_check_numerics()` call above, the program errors immediately
   # at this line, printing an error message.
   y = tf.math.sqrt(x)
   z = tf.matmul(y, y)
   

Примечание: Если ваш код выполняется на TPUs, убедитесь, что вы вызываете tf.config.set_soft_device_placement(True) перед вызовом tf.debugging.enable_check_numerics(), так как этот API использует автоматическую компиляцию вне TPU.

tf.config.set_soft_device_placement(True)
tf.debugging.enable_check_numerics()

resolver = tf.distribute.cluster_resolver.TPUClusterResolver(tpu='')
strategy = tf.distribute.TPUStrategy(resolver)
with strategy.scope():
  # ...