tf.image.extract_patches

Извлечь патчи из patches.

tf.image.extract_patches(
    images, sizes, strides, rates, padding, name=None
)

Этот оператор собирает патчи из входного изображения, как будто применяется свёртка. Все извлеченные патчи складываются в глубину (последнее) измерение выхода.

В частности, оператор извлекает патчи размером sizes, которые находятся на расстоянии strides в входном изображении. Выход подвыбирается с помощью аргумента rates, так же, как при свёртках с «атрофией» или «расширением».

Результат — тензор 4D, который индексируется по партии, строке и столбцу. output[i, x, y] содержит сплющенный патч размером sizes[1], sizes[2], который берётся из входного изображения, начиная с images[i, x*strides[1], y*strides[2]].

Каждый выходной патч можно преобразовать в sizes[1], sizes[2], depth, где depth — это images.shape[3].

Элементы вывода берутся из входных данных с интервалами, заданными аргументом rate, как и при свёртках с расширением.

Аргумент padding не влияет на размер каждого патча, он определяет, сколько патчей извлекается. Если VALID, включаются только те патчи, которые полностью содержатся в входном изображении. Если SAME, включаются все патчи, начальная точка которых находится внутри входного изображения, а области за пределами входных данных по умолчанию равны нулю.

Пример:

n = 10
# images is a 1 x 10 x 10 x 1 array that contains the numbers 1 through 100
images = [[[[x * n + y + 1] for y in range(n)] for x in range(n)]]

# We generate two outputs as follows:
# 1. 3x3 patches with stride length 5
# 2. Same as above, but the rate is increased to 2
tf.image.extract_patches(images=images,
                         sizes=[1, 3, 3, 1],
                         strides=[1, 5, 5, 1],
                         rates=[1, 1, 1, 1],
                         padding='VALID')

# Yields:
[[[[ 1  2  3 11 12 13 21 22 23]
   [ 6  7  8 16 17 18 26 27 28]]
  [[51 52 53 61 62 63 71 72 73]
   [56 57 58 66 67 68 76 77 78]]]]

Если мы пометим пиксели в входном изображении, которые используются для выхода, символом *, мы увидим следующую схему:

 *  *  *  4  5  *  *  *  9 10
 *  *  * 14 15  *  *  * 19 20
 *  *  * 24 25  *  *  * 29 30
31 32 33 34 35 36 37 38 39 40
41 42 43 44 45 46 47 48 49 50
 *  *  * 54 55  *  *  * 59 60
 *  *  * 64 65  *  *  * 69 70
 *  *  * 74 75  *  *  * 79 80
81 82 83 84 85 86 87 88 89 90
91 92 93 94 95 96 97 98 99 100

tf.image.extract_patches(images=images,
                         sizes=[1, 3, 3, 1],
                         strides=[1, 5, 5, 1],
                         rates=[1, 2, 2, 1],
                         padding='VALID')

# Yields:
[[[[  1   3   5  21  23  25  41  43  45]
   [  6   8  10  26  28  30  46  48  50]]

  [[ 51  53  55  71  73  75  91  93  95]
   [ 56  58  60  76  78  80  96  98 100]]]]

Мы можем снова изобразить эффект, на этот раз используя символы *, x, + и o для различения патчей:

 *  2  *  4  *  x  7  x  9  x
11 12 13 14 15 16 17 18 19 20
 * 22  * 24  *  x 27  x 29  x
31 32 33 34 35 36 37 38 39 40
 * 42  * 44  *  x 47  x 49  x
 + 52  + 54  +  o 57  o 59  o
61 62 63 64 65 66 67 68 69 70
 + 72  + 74  +  o 77  o 79  o
81 82 83 84 85 86 87 88 89 90
 + 92  + 94  +  o 97  o 99  o