tf.image.extract_patches

Извлечение patches из images.

tf.image.extract_patches(
    images, sizes, strides, rates, padding, name=None
)

Этот оператор собирает фрагменты из входного изображения, как если бы применялась свёртка. Все извлечённые фрагменты укладываются в глубину (последнее) измерение выходного значения.

В частности, оператор извлекает фрагменты формы sizes, которые находятся на расстоянии strides в входном изображении. Выход подвыбирается с использованием аргумента rates, так же, как и при свёртках с "атровской" или "разбавленной" фильтрацией.

Результат — тензор 4D, который индексируется по партиям, строкам и столбцам. output[i, x, y] содержит сглаженный фрагмент размером sizes[1], sizes[2], который взят из входного значения, начиная с images[i, x*strides[1], y*strides[2]].

Каждый выходной фрагмент можно преобразовать к виду sizes[1], sizes[2], depth, где depth равно images.shape[3].

Элементы вывода берутся из входного значения с интервалами, указанными в аргументе rate, как в свёртках с разбавлением.

Аргумент padding не влияет на размер каждого фрагмента, он определяет количество извлекаемых фрагментов. Если VALID, включаются только фрагменты, полностью содержащиеся в входном изображении. Если SAME, включаются все фрагменты, начало которых находится внутри входного изображения, а области вне входного изображения устанавливаются по умолчанию в ноль.

Пример:

n = 10
# images is a 1 x 10 x 10 x 1 array that contains the numbers 1 through 100
images = [[[[x * n + y + 1] for y in range(n)] for x in range(n)]]

# We generate two outputs as follows:
# 1. 3x3 patches with stride length 5
# 2. Same as above, but the rate is increased to 2
tf.image.extract_patches(images=images,
                         sizes=[1, 3, 3, 1],
                         strides=[1, 5, 5, 1],
                         rates=[1, 1, 1, 1],
                         padding='VALID')

# Yields:
[[[[ 1  2  3 11 12 13 21 22 23]
   [ 6  7  8 16 17 18 26 27 28]]
  [[51 52 53 61 62 63 71 72 73]
   [56 57 58 66 67 68 76 77 78]]]]

Если мы пометим пиксели в входном изображении, которые используются для выходного значения символом *, мы видим следующую закономерность:

 *  *  *  4  5  *  *  *  9 10
 *  *  * 14 15  *  *  * 19 20
 *  *  * 24 25  *  *  * 29 30
31 32 33 34 35 36 37 38 39 40
41 42 43 44 45 46 47 48 49 50
 *  *  * 54 55  *  *  * 59 60
 *  *  * 64 65  *  *  * 69 70
 *  *  * 74 75  *  *  * 79 80
81 82 83 84 85 86 87 88 89 90
91 92 93 94 95 96 97 98 99 100

tf.image.extract_patches(images=images,
                         sizes=[1, 3, 3, 1],
                         strides=[1, 5, 5, 1],
                         rates=[1, 2, 2, 1],
                         padding='VALID')

# Yields:
[[[[  1   3   5  21  23  25  41  43  45]
   [  6   8  10  26  28  30  46  48  50]]

  [[ 51  53  55  71  73  75  91  93  95]
   [ 56  58  60  76  78  80  96  98 100]]]]

Мы можем снова изобразить эффект, используя на этот раз символы *, x, + и o для различения фрагментов:

 *  2  *  4  *  x  7  x  9  x
11 12 13 14 15 16 17 18 19 20
 * 22  * 24  *  x 27  x 29  x
31 32 33 34 35 36 37 38 39 40
 * 42  * 44  *  x 47  x 49  x
 + 52  + 54  +  o 57  o 59  o
61 62 63 64 65 66 67 68 69 70
 + 72  + 74  +  o 77  o 79  o
81 82 83 84 85 86 87 88 89 90
 + 92  + 94  +  o 97  o 99  o