tf.nn.max_pool

Выполняет максимальную пулинг-операцию для входных данных.

tf.nn.max_pool(
    input, ksize, strides, padding, data_format=None, name=None
)

Для заданного окна ksize функция возвращает максимальное значение в этом окне. Используется для уменьшения объема вычислений и предотвращения переобучения.

Рассмотрим пример пулинга с неперекрывающимися окнами размером 2x2:

matrix = tf.constant([
    [0, 0, 1, 7],
    [0, 2, 0, 0],
    [5, 2, 0, 0],
    [0, 0, 9, 8],
])
reshaped = tf.reshape(matrix, (1, 4, 4, 1))
tf.nn.max_pool(reshaped, ksize=2, strides=2, padding="SAME")
<tf.Tensor: shape=(1, 2, 2, 1), dtype=int32, numpy=
array([[[[2],
         [7]],
        [[5],
         [9]]]], dtype=int32)>

Размер окна можно изменить с помощью параметра ksize. Например, если увеличить размер окна до 3:

tf.nn.max_pool(reshaped, ksize=3, strides=2, padding="SAME")
<tf.Tensor: shape=(1, 2, 2, 1), dtype=int32, numpy=
array([[[[5],
         [7]],
        [[9],
         [9]]]], dtype=int32)>

Теперь в двух позициях пулинга выбраны два дополнительных больших числа (5 и 9).

Обратите внимание, что теперь наши окна перекрываются, поскольку на каждой итерации мы по-прежнему перемещаемся на 2 единицы. Поэтому число 9 повторяется дважды: оно входит в два перекрывающихся окна.

Расстояние перемещения окна на каждой итерации можно изменить с помощью параметра strides. Если задать значение, равное размеру окна, перекрытие исчезнет:

tf.nn.max_pool(reshaped, ksize=3, strides=3, padding="SAME")
<tf.Tensor: shape=(1, 2, 2, 1), dtype=int32, numpy=
array([[[[2],
         [7]],
        [[5],
         [9]]]], dtype=int32)>

Поскольку окно не помещается в наши входные данные без остатка, по краям добавляются отступы, и результат получается таким же, как при использовании окна размером 2x2. Можно вовсе отказаться от добавления отступов и просто отбросить окна, которые не помещаются во входные данные целиком, передав "VALID" аргументу padding:

tf.nn.max_pool(reshaped, ksize=3, strides=3, padding="VALID")
<tf.Tensor: shape=(1, 1, 1, 1), dtype=int32, numpy=array([[[[5]]]],
 dtype=int32)>

Теперь мы выбрали наибольшее значение в окне размером 3x3, начинающемся в верхнем левом углу. Поскольку во входных данных не помещаются другие окна, они отбрасываются.