Spec-Zone.ru › TensorFlow 2.4

tf.keras.preprocessing.image.ImageDataGenerator

Просмотреть исходный код на GitHub

Генерирует пакеты тензорных изображений с реальной динамической аугментацией данных.

Просмотр псевдонимов

Псевдонимы для миграции

См. Руководство по миграции для получения дополнительной информации.

tf.compat.v1.keras.preprocessing.image.ImageDataGenerator

tf.keras.preprocessing.image.ImageDataGenerator(
    featurewise_center=False, samplewise_center=False,
    featurewise_std_normalization=False, samplewise_std_normalization=False,
    zca_whitening=False, zca_epsilon=1e-06, rotation_range=0, width_shift_range=0.0,
    height_shift_range=0.0, brightness_range=None, shear_range=0.0, zoom_range=0.0,
    channel_shift_range=0.0, fill_mode='nearest', cval=0.0,
    horizontal_flip=False, vertical_flip=False, rescale=None,
    preprocessing_function=None, data_format=None, validation_split=0.0, dtype=None
)

Данные будут циклически обрабатываться (по пакетам).

Аргументы
featurewise_center Булево. Устанавливает среднее значение входных данных в 0 по набору данных, по признакам.
samplewise_center Булево. Устанавливает среднее значение каждого образца в 0.
featurewise_std_normalization Булево. Делит входные данные на стандартное отклонение набора данных, по признакам.
samplewise_std_normalization Булево. Делит каждый вход на его стандартное отклонение.
zca_epsilon epsilon для ZCA-выбеливания. По умолчанию 1e-6.
zca_whitening Булево. Применять ZCA-выбеливание.
rotation_range Целое число. Диапазон градусов для случайных поворотов.
width_shift_range Вещественное число, массив 1D или целое число
  • вещественное число: доля от общей ширины, если < 1, или пиксели, если >= 1.
  • массив 1D: случайные элементы из массива.
  • целое число: количество пикселей из интервала (-width_shift_range, +width_shift_range)
  • С width_shift_range=2 возможные значения - целые числа [-1, 0, +1], так же как и с width_shift_range=[-1, 0, +1], а с width_shift_range=1.0 возможные значения - вещественные числа в интервале [-1.0, +1.0).
height_shift_range Вещественное число, массив 1D или целое число
  • вещественное число: доля от общей высоты, если < 1, или пиксели, если >= 1.
  • массив 1D: случайные элементы из массива.
  • целое число: количество пикселей из интервала (-height_shift_range, +height_shift_range)
  • С height_shift_range=2 возможные значения - целые числа [-1, 0, +1], так же как и с height_shift_range=[-1, 0, +1], а с height_shift_range=1.0 возможные значения - вещественные числа в интервале [-1.0, +1.0).
  • brightness_range Кортеж или список из двух вещественных чисел. Диапазон для выбора значения сдвига яркости.
    shear_range Вещественное число. Интенсивность сдвига (угол сдвига против часовой стрелки в градусах)
    zoom_range Вещественное число или [нижняя граница, верхняя граница]. Диапазон для случайного масштабирования. Если вещественное число, [lower, upper] = [1-zoom_range, 1+zoom_range].
    channel_shift_range Вещественное число. Диапазон для случайных сдвигов канала.
    fill_mode Одно из {"constant", "nearest", "reflect" или "wrap"}. По умолчанию 'nearest'. Точки за пределами границ входных данных заполняются в соответствии с заданным режимом:
  • 'constant': kkkkkkkk|abcd|kkkkkkkk (cval=k)
  • 'nearest': aaaaaaaa|abcd|dddddddd
  • 'reflect': abcddcba|abcd|dcbaabcd
  • 'wrap': abcdabcd|abcd|abcdabcd
  • cval Вещественное число или целое число. Значение, используемое для точек за пределами границ при fill_mode = "constant".
    horizontal_flip Булево. Случайно переворачивать входные данные по горизонтали.
    vertical_flip Булево. Случайно переворачивать входные данные по вертикали.
    rescale Коэффициент масштабирования. По умолчанию None. Если None или 0, масштабирование не применяется, в противном случае данные умножаются на предоставленное значение (после применения всех других преобразований).
    preprocessing_function Функция, которая будет применяться к каждому входу. Функция будет выполняться после изменения размера изображения и аугментации. Функция должна принимать один аргумент: одно изображение (массив NumPy с рангом 3) и должна выводить массив NumPy с той же формой.
    data_format Формат данных изображения, либо "channels_first", либо "channels_last". Режим "channels_last" означает, что изображения должны иметь форму (samples, height, width, channels), режим "channels_first" означает, что изображения должны иметь форму (samples, channels, height, width). По умолчанию значение, найденное в вашем файле конфигурации Keras по адресу image_data_format. Если вы никогда не устанавливали его, то он будет "channels_last".
    validation_split Доля изображений, зарезервированных для валидации (строго между 0 и 1).
    dtype Тип данных для использования в сгенерированных массивах.

    Примеры:

    Пример использования .flow(x, y):

    (x_train, y_train), (x_test, y_test) = cifar10.load_data()
    y_train = np_utils.to_categorical(y_train, num_classes)
    y_test = np_utils.to_categorical(y_test, num_classes)
    datagen = ImageDataGenerator(
        featurewise_center=True,
        featurewise_std_normalization=True,
        rotation_range=20,
        width_shift_range=0.2,
        height_shift_range=0.2,
        horizontal_flip=True)
    # compute quantities required for featurewise normalization
    # (std, mean, and principal components if ZCA whitening is applied)
    datagen.fit(x_train)
    # fits the model on batches with real-time data augmentation:
    model.fit(datagen.flow(x_train, y_train, batch_size=32),
              steps_per_epoch=len(x_train) / 32, epochs=epochs)
    # here's a more "manual" example
    for e in range(epochs):
        print('Epoch', e)
        batches = 0
        for x_batch, y_batch in datagen.flow(x_train, y_train, batch_size=32):
            model.fit(x_batch, y_batch)
            batches += 1
            if batches >= len(x_train) / 32:
                # we need to break the loop by hand because
                # the generator loops indefinitely
                break
    

    Пример использования .flow_from_directory(directory):

    train_datagen = ImageDataGenerator(
            rescale=1./255,
            shear_range=0.2,
            zoom_range=0.2,
            horizontal_flip=True)
    test_datagen = ImageDataGenerator(rescale=1./255)
    train_generator = train_datagen.flow_from_directory(
            'data/train',
            target_size=(150, 150),
            batch_size=32,
            class_mode='binary')
    validation_generator = test_datagen.flow_from_directory(
            'data/validation',
            target_size=(150, 150),
            batch_size=32,
            class_mode='binary')
    model.fit(
            train_generator,
            steps_per_epoch=2000,
            epochs=50,
            validation_data=validation_generator,
            validation_steps=800)
    

    Пример преобразования изображений и масок вместе.

    # we create two instances with the same arguments
    data_gen_args = dict(featurewise_center=True,
                         featurewise_std_normalization=True,
                         rotation_range=90,
                         width_shift_range=0.1,
                         height_shift_range=0.1,
                         zoom_range=0.2)
    image_datagen = ImageDataGenerator(**data_gen_args)
    mask_datagen = ImageDataGenerator(**data_gen_args)
    # Provide the same seed and keyword arguments to the fit and flow methods
    seed = 1
    image_datagen.fit(images, augment=True, seed=seed)
    mask_datagen.fit(masks, augment=True, seed=seed)
    image_generator = image_datagen.flow_from_directory(
        'data/images',
        class_mode=None,
        seed=seed)
    mask_generator = mask_datagen.flow_from_directory(
        'data/masks',
        class_mode=None,
        seed=seed)
    # combine generators into one which yields image and masks
    train_generator = zip(image_generator, mask_generator)
    model.fit(
        train_generator,
        steps_per_epoch=2000,
        epochs=50)
    

    Методы

    apply_transform

    Просмотреть исходный код

    apply_transform(
        x, transform_parameters
    )
    

    Применяет преобразование к изображению в соответствии с заданными параметрами.

    Аргументы
    x 3D тензор, одно изображение.
    transform_parameters Словарь со строками - парами параметров, описывающими преобразование. В настоящее время используются следующие параметры из словаря:
    • 'theta': Вещественное число. Угол поворота в градусах.
    • 'tx': Вещественное число. Смещение по оси x.
    • 'ty': Вещественное число. Смещение по оси y.
    • 'shear': Вещественное число. Угол сдвига в градусах.
    • 'zx': Вещественное число. Масштабирование по оси x.
    • 'zy': Вещественное число. Масштабирование по оси y.
    • 'flip_horizontal': Булево. Горизонтальное отражение.
    • 'flip_vertical': Булево. Вертикальное отражение.
    • 'channel_shift_intensity': Вещественное число. Интенсивность сдвига канала.
    • 'brightness': Вещественное число. Интенсивность сдвига яркости.
    Возвращает
    Преобразованная версия входа (та же форма).

    fit

    Просмотреть исходный код

    fit(
        x, augment=False, rounds=1, seed=None
    )
    

    Подбирает генератор данных к некоторым образцам данных.

    Это вычисляет внутренние статистические данные, связанные с преобразованиями, зависящими от данных, на основе массива данных образцов.

    Требуется только если featurewise_center или featurewise_std_normalization или zca_whitening установлены в True.

    Когда rescale установлено в значение, масштабирование применяется к образцам данных перед вычислением внутренних статистических данных.

    Аргументы
    x Данные образца. Должен иметь ранг 4. В случае данных в оттенках серого ось каналов должна иметь значение 1, в случае данных RGB - 3, а в случае данных RGBA - 4.
    augment Булево (по умолчанию: False). Подбирать на случайно аугментированных образцах.
    rounds Целое число (по умолчанию: 1). Если используется аугментация данных (augment=True), это количество проходов аугментации данных для использования.
    seed Целое число (по умолчанию: None). Случайное семя.

    flow

    Просмотреть исходный код

    flow(
        x, y=None, batch_size=32, shuffle=True, sample_weight=None, seed=None,
        save_to_dir=None, save_prefix='', save_format='png',
        subset=None
    )
    

    Принимает массивы данных и меток, генерирует пакеты аугментированных данных.

    Аргументы
    x Входные данные. Массив NumPy ранга 4 или кортеж. Если кортеж, первый элемент должен содержать изображения, а второй элемент - другой массив NumPy или список массивов NumPy, который передается в выходные данные без каких-либо изменений. Может использоваться для подачи различных данных модели наряду с изображениями. В случае данных в оттенках серого ось каналов массива изображения должна иметь значение 1, в случае данных RGB - 3, а в случае данных RGBA - 4.
    y Метки.
    batch_size Целое число (по умолчанию: 32).
    shuffle Булево (по умолчанию: True).
    sample_weight Веса образца.
    seed Целое число (по умолчанию: None).
    save_to_dir None или строка (по умолчанию: None). Это позволяет вам необязательно указать каталог, в который будут сохраняться генерируемые аугментированные изображения (полезно для визуализации того, что вы делаете).
    save_prefix Строка (по умолчанию: ''). Префикс для использования в именах файлов сохраненных изображений (только актуально, если save_to_dir установлено).
    save_format Один из "png", "jpeg" (только актуально, если save_to_dir установлено). По умолчанию: "png".
    subset Подмножество данных ("training" или "validation") если validation_split установлено в ImageDataGenerator.
    Возвращает
    Объект Iterator, возвращающий кортежи (x, y), где x - массив NumPy данных изображения (в случае одного входного изображения) или список массивов NumPy (в случае с дополнительными входами), а y - массив NumPy соответствующих меток. Если 'sample_weight' не None, возвращаемые кортежи имеют вид (x, y, sample_weight). Если y None, возвращается только массив NumPy x.

    flow_from_dataframe

    Просмотреть исходный код

    flow_from_dataframe(
        dataframe, directory=None, x_col='filename', y_col='class',
        weight_col=None, target_size=(256, 256), color_mode='rgb',
        classes=None, class_mode='categorical', batch_size=32, shuffle=True,
        seed=None, save_to_dir=None, save_prefix='',
        save_format='png', subset=None, interpolation='nearest',
        validate_filenames=True, **kwargs
    )
    

    Принимает датафрейм и путь к каталогу + генерирует пакеты.

    Сгенерированные пакеты содержат данные, дополненные/нормализованные.

    **Простой учебник можно найти **здесь.

    Аргументы
    dataframe Pandas датафрейм, содержащий пути к файлам, относительные к directory (или абсолютные пути, если directory равно None) изображений в строковом столбце. Он должен включать другие столбцы/столбцы в зависимости от class_mode: - если class_mode равно "categorical" (значение по умолчанию), он должен содержать столбец y_col с классом/классами каждого изображения. Значения в столбце могут быть строкой/списком/кортежем, если это один класс, или списком/кортежем, если несколько классов. - если class_mode равно "binary" или "sparse", он должен содержать указанный столбец y_col со значениями класса в виде строк. - если class_mode равно "raw" или "multi_output", он должен содержать столбцы, указанные в y_col. - если class_mode равно "input" или None, дополнительные столбцы не нужны.
    directory строка, путь к каталогу для чтения изображений. Если None, данные в столбце x_col должны быть абсолютными путями.
    x_col строка, столбец в dataframe, содержащий имена файлов (или абсолютные пути, если directory равно None).
    y_col строка или список, столбец/столбцы в dataframe, содержащий целевые данные.
    weight_col строка, столбец в dataframe, содержащий веса образцов. По умолчанию: None.
    target_size кортеж целых чисел (height, width), по умолчанию: (256, 256). Размер, на который будут изменены все найденные изображения.
    color_mode одно из "grayscale", "rgb", "rgba". По умолчанию: "rgb". Будут ли изображения преобразованы в изображения с 1 или 3 цветовыми каналами.
    classes необязательный список классов (например, ['dogs', 'cats']). По умолчанию None. Если не указан, список классов будет автоматически определен из y_col, который будет сопоставляться с индексами меток, будут буквенно-цифровыми. Словарь, содержащий сопоставление имен классов с индексами классов, можно получить через атрибут class_indices.
    class_mode одно из "binary", "categorical", "input", "multi_output", "raw", "sparse" или None. По умолчанию: "categorical". Режим вывода целей:
    • "binary": одномерный массив NumPy бинарных меток,
    • "categorical": двумерный массив NumPy одноканальных закодированных меток. Поддерживает многоклассовый вывод.
    • "input": изображения, идентичные входным изображениям (в основном используется для работы с автоэнкодерами),
    • "multi_output": список со значениями различных столбцов,
    • "raw": массив NumPy значений в столбце/столбцах y_col,
    • "sparse": одномерный массив NumPy целых меток, - None, цели не возвращаются (генератор будет возвращать только пакеты данных изображения, что полезно для использования в model.predict()).
    batch_size размер пакетов данных (по умолчанию: 32).
    shuffle перемешивать данные (по умолчанию: True)
    seed необязательное случайное семя для перемешивания и преобразований.
    save_to_dir None или строка (по умолчанию: None). Это позволяет необязательно указать каталог, в который будут сохраняться созданные дополненные изображения (полезно для визуализации того, что вы делаете).
    save_prefix строка. Префикс для имен сохраненных изображений (актуально только если save_to_dir задано).
    save_format одно из "png", "jpeg" (актуально только если save_to_dir задано). По умолчанию: "png".
    subset Подмножество данных ("training" или "validation") если validation_split задано в ImageDataGenerator.
    interpolation Метод интерполяции, используемый для повторной выборки изображения, если целевой размер отличается от размера загруженного изображения. Поддерживаемые методы — "nearest", "bilinear", и "bicubic". Если установлен PIL версии 1.1.3 или более поздней, также поддерживается "lanczos". Если установлен PIL версии 3.4.0 или более поздней, также поддерживаются "box" и "hamming". По умолчанию используется "nearest".
    validate_filenames Булево значение, указывает на то, нужно ли проверять имена файлов изображений в x_col. Если True, неверные изображения будут проигнорированы. Отключение этой опции может привести к ускорению выполнения этой функции. По умолчанию True.
    **kwargs аргументы наследия для повышения предупреждений об устаревании.
    Возвращает
    DataFrameIterator возвращает кортежи (x, y), где x — массив NumPy, содержащий пакет изображений с формой (batch_size, *target_size, channels), а y — массив NumPy соответствующих меток.

    flow_from_directory

    Просмотреть исходный код

    flow_from_directory(
        directory, target_size=(256, 256), color_mode='rgb', classes=None,
        class_mode='categorical', batch_size=32, shuffle=True, seed=None,
        save_to_dir=None, save_prefix='', save_format='png',
        follow_links=False, subset=None, interpolation='nearest'
    )
    

    Принимает путь к каталогу и генерирует пакеты дополненных данных.

    Аргументы
    directory строка, путь к целевому каталогу. Он должен содержать один подкаталог на класс. Любые изображения PNG, JPG, BMP, PPM или TIF внутри каждого из подкаталогов древовидной структуры каталога будут включены в генератор. Подробнее см. этот скрипт.
    target_size Кортеж целых чисел (height, width), по умолчанию (256, 256). Размер, на который будут изменены все найденные изображения.
    color_mode Одно из "grayscale", "rgb", "rgba". По умолчанию: "rgb". Будут ли изображения преобразованы в изображения с 1, 3 или 4 каналами.
    classes Необязательный список подкаталогов класса (например, ['dogs', 'cats']). По умолчанию None. Если не указан, список классов будет автоматически определен по именам/структуре подкаталогов в directory, где каждый подкаталог будет рассматриваться как отдельный класс (и порядок классов, которые будут сопоставляться с индексами меток, будет буквенно-цифровым). Словарь, содержащий сопоставление имен классов с индексами классов, можно получить через атрибут class_indices.
    class_mode Одно из "categorical", "binary", "sparse", "input" или None. По умолчанию: "categorical". Определяет тип массивов меток, которые возвращаются: - "categorical" — двумерные одноканальные закодированные метки, - "binary" — одномерные бинарные метки, "sparse" — одномерные целые метки, - "input" — изображения, идентичные входным изображениям (в основном используется для работы с автоэнкодерами). - Если None, метки не возвращаются (генератор будет возвращать только пакеты данных изображения, что полезно при использовании с model.predict()). Обратите внимание, что в случае class_mode None данные все равно должны находиться в подкаталоге directory, чтобы он работал правильно.
    batch_size Размер пакетов данных (по умолчанию: 32).
    shuffle Перемешивать данные (по умолчанию: True) Если установлено в False, сортирует данные в алфавитном порядке.
    seed Необязательное случайное семя для перемешивания и преобразований.
    save_to_dir None или строка (по умолчанию: None). Это позволяет необязательно указать каталог, в который будут сохраняться созданные дополненные изображения (полезно для визуализации того, что вы делаете).
    save_prefix Строка. Префикс для имен сохраненных изображений (актуально только если save_to_dir задано).
    save_format Одно из "png", "jpeg" (актуально только если save_to_dir задано). По умолчанию: "png".
    follow_links Следовать ли ссылкам на символы внутри подкаталогов класса (по умолчанию: False).
    subset Подмножество данных ("training" или "validation") если validation_split задано в ImageDataGenerator.
    interpolation Метод интерполяции, используемый для повторной выборки изображения, если целевой размер отличается от размера загруженного изображения. Поддерживаемые методы — "nearest", "bilinear", и "bicubic". Если установлен PIL версии 1.1.3 или более поздней, также поддерживается "lanczos". Если установлен PIL версии 3.4.0 или более поздней, также поддерживаются "box" и "hamming". По умолчанию используется "nearest".
    Возвращает
    DirectoryIterator возвращает кортежи (x, y), где x — массив NumPy, содержащий пакет изображений с формой (batch_size, *target_size, channels), а y — массив NumPy соответствующих меток.

    get_random_transform

    Просмотреть исходный код

    get_random_transform(
        img_shape, seed=None
    )
    

    Генерирует случайные параметры для преобразования.

    Аргументы
    seed Случайное семя.
    img_shape Кортеж целых чисел. Форма изображения, которое преобразуется.
    Возвращаемое значение
    Словарь, содержащий случайно выбранные параметры, описывающие преобразование.

    random_transform

    Посмотреть исходный код

    random_transform(
        x, seed=None
    )
    

    Применяет случайное преобразование к изображению.

    Аргументы
    x 3D тензор, одно изображение.
    seed Случайное семя.
    Возвращаемое значение
    Случайно преобразованная версия входных данных (такая же форма).

    standardize

    Посмотреть исходный код

    standardize(
        x
    )
    

    Применяет конфигурацию нормализации непосредственно к набору входных данных.

    x изменяется непосредственно, так как функция в основном используется внутри для нормализации изображений и подачи их в вашу сеть. Если бы вместо этого была создана копия x, это повлекло бы значительные затраты производительности. Если вы хотите применить этот метод без изменения входных данных непосредственно, вы можете вызвать метод, создавая копию до:

    standardize(np.copy(x))

    Аргументы
    x Набор входных данных, которые нужно нормализовать.
    Возвращаемое значение
    Входные данные, нормализованные.

    © 2020 The TensorFlow Authors. All rights reserved.
    Licensed under the Creative Commons Attribution License 3.0.
    Code samples licensed under the Apache 2.0 License.
    https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/keras/preprocessing/image/ImageDataGenerator

    Spec-Zone.ru

    Настройки Оффлайн Что нового Помощь О нас
    Spec-Zone .ru
    спецификации, руководства, описания, API