tf.raw_ops.NonMaxSuppressionV5

Жадно выбирает подмножество прямоугольных областей в порядке убывания оценки,

tf.raw_ops.NonMaxSuppressionV5(
    boxes, scores, max_output_size, iou_threshold, score_threshold, soft_nms_sigma,
    pad_to_max_output_size=False, name=None
)

удаляя прямоугольные области, которые имеют высокое пересечение-над-объединением (IOU) перекрытие с ранее выбранными прямоугольными областями. Прямоугольные области с оценкой меньше score_threshold удаляются. Прямоугольные области предоставляются как [y1, x1, y2, x2], где (y1, x1) и (y2, x2) - координаты любой диагональной пары углов прямоугольной области, и координаты могут быть предоставлены как нормализованные (т.е. лежащие в интервале [0, 1]) или абсолютные. Обратите внимание, что этот алгоритм не зависит от того, где находится начало координат в системе координат, и более общее, инвариантен к ортогональным преобразованиям и сдвигам системы координат; таким образом, сдвиги или отражения системы координат приводят к выбору одних и тех же прямоугольных областей алгоритмом. Результатом этой операции является набор целых чисел, индексирующих входную коллекцию прямоугольных областей, представляющих выбранные прямоугольные области. Координаты прямоугольных областей, соответствующие выбранным индексам, можно получить, используя tf.gather operation. Например: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices) Этот оператор также поддерживает режим Soft-NMS (с взвешиванием Гаусса) (см. Bodla и др., https://arxiv.org/abs/1704.04503), где прямоугольные области уменьшают оценку других перекрывающихся прямоугольных областей вместо прямого удаления их. Чтобы включить этот режим Soft-NMS, установите параметр soft_nms_sigma больше 0.