tf.keras.preprocessing.image.ImageDataGenerator
| Просмотреть исходный код на GitHub |
Генерирует пакеты тензорных изображений с реальной динамической аугментацией данных.
tf.keras.preprocessing.image.ImageDataGenerator(
featurewise_center=False, samplewise_center=False,
featurewise_std_normalization=False, samplewise_std_normalization=False,
zca_whitening=False, zca_epsilon=1e-06, rotation_range=0, width_shift_range=0.0,
height_shift_range=0.0, brightness_range=None, shear_range=0.0, zoom_range=0.0,
channel_shift_range=0.0, fill_mode='nearest', cval=0.0,
horizontal_flip=False, vertical_flip=False, rescale=None,
preprocessing_function=None, data_format=None, validation_split=0.0, dtype=None
)
Данные будут циклически обрабатываться (по пакетам).
| Аргументы | |
|---|---|
featurewise_center | Булево. Устанавливает среднее значение входных данных в 0 по набору данных, по признакам. |
samplewise_center | Булево. Устанавливает среднее значение каждого образца в 0. |
featurewise_std_normalization | Булево. Делит входные данные на стандартное отклонение набора данных, по признакам. |
samplewise_std_normalization | Булево. Делит каждый вход на его стандартное отклонение. |
zca_epsilon | epsilon для ZCA-выбеливания. По умолчанию 1e-6. |
zca_whitening | Булево. Применять ZCA-выбеливание. |
rotation_range | Целое число. Диапазон градусов для случайных поворотов. |
width_shift_range | Вещественное число, массив 1D или целое число
|
height_shift_range | Вещественное число, массив 1D или целое число (-height_shift_range, +height_shift_range)
height_shift_range=2 возможные значения - целые числа [-1, 0, +1], так же как и с height_shift_range=[-1, 0, +1], а с height_shift_range=1.0 возможные значения - вещественные числа в интервале [-1.0, +1.0). |
brightness_range | Кортеж или список из двух вещественных чисел. Диапазон для выбора значения сдвига яркости. |
shear_range | Вещественное число. Интенсивность сдвига (угол сдвига против часовой стрелки в градусах) |
zoom_range | Вещественное число или [нижняя граница, верхняя граница]. Диапазон для случайного масштабирования. Если вещественное число, [lower, upper] = [1-zoom_range, 1+zoom_range]. |
channel_shift_range | Вещественное число. Диапазон для случайных сдвигов канала. |
fill_mode | Одно из {"constant", "nearest", "reflect" или "wrap"}. По умолчанию 'nearest'. Точки за пределами границ входных данных заполняются в соответствии с заданным режимом: |
cval | Вещественное число или целое число. Значение, используемое для точек за пределами границ при fill_mode = "constant". |
horizontal_flip | Булево. Случайно переворачивать входные данные по горизонтали. |
vertical_flip | Булево. Случайно переворачивать входные данные по вертикали. |
rescale | Коэффициент масштабирования. По умолчанию None. Если None или 0, масштабирование не применяется, в противном случае данные умножаются на предоставленное значение (после применения всех других преобразований). |
preprocessing_function | Функция, которая будет применяться к каждому входу. Функция будет выполняться после изменения размера изображения и аугментации. Функция должна принимать один аргумент: одно изображение (массив NumPy с рангом 3) и должна выводить массив NumPy с той же формой. |
data_format | Формат данных изображения, либо "channels_first", либо "channels_last". Режим "channels_last" означает, что изображения должны иметь форму (samples, height, width, channels), режим "channels_first" означает, что изображения должны иметь форму (samples, channels, height, width). По умолчанию значение, найденное в вашем файле конфигурации Keras по адресу image_data_format. Если вы никогда не устанавливали его, то он будет "channels_last". |
validation_split | Доля изображений, зарезервированных для валидации (строго между 0 и 1). |
dtype | Тип данных для использования в сгенерированных массивах. |
Примеры:
Пример использования .flow(x, y):
(x_train, y_train), (x_test, y_test) = cifar10.load_data()
y_train = np_utils.to_categorical(y_train, num_classes)
y_test = np_utils.to_categorical(y_test, num_classes)
datagen = ImageDataGenerator(
featurewise_center=True,
featurewise_std_normalization=True,
rotation_range=20,
width_shift_range=0.2,
height_shift_range=0.2,
horizontal_flip=True)
# compute quantities required for featurewise normalization
# (std, mean, and principal components if ZCA whitening is applied)
datagen.fit(x_train)
# fits the model on batches with real-time data augmentation:
model.fit(datagen.flow(x_train, y_train, batch_size=32),
steps_per_epoch=len(x_train) / 32, epochs=epochs)
# here's a more "manual" example
for e in range(epochs):
print('Epoch', e)
batches = 0
for x_batch, y_batch in datagen.flow(x_train, y_train, batch_size=32):
model.fit(x_batch, y_batch)
batches += 1
if batches >= len(x_train) / 32:
# we need to break the loop by hand because
# the generator loops indefinitely
break
Пример использования .flow_from_directory(directory):
train_datagen = ImageDataGenerator(
rescale=1./255,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True)
test_datagen = ImageDataGenerator(rescale=1./255)
train_generator = train_datagen.flow_from_directory(
'data/train',
target_size=(150, 150),
batch_size=32,
class_mode='binary')
validation_generator = test_datagen.flow_from_directory(
'data/validation',
target_size=(150, 150),
batch_size=32,
class_mode='binary')
model.fit(
train_generator,
steps_per_epoch=2000,
epochs=50,
validation_data=validation_generator,
validation_steps=800)
Пример преобразования изображений и масок вместе.
# we create two instances with the same arguments
data_gen_args = dict(featurewise_center=True,
featurewise_std_normalization=True,
rotation_range=90,
width_shift_range=0.1,
height_shift_range=0.1,
zoom_range=0.2)
image_datagen = ImageDataGenerator(**data_gen_args)
mask_datagen = ImageDataGenerator(**data_gen_args)
# Provide the same seed and keyword arguments to the fit and flow methods
seed = 1
image_datagen.fit(images, augment=True, seed=seed)
mask_datagen.fit(masks, augment=True, seed=seed)
image_generator = image_datagen.flow_from_directory(
'data/images',
class_mode=None,
seed=seed)
mask_generator = mask_datagen.flow_from_directory(
'data/masks',
class_mode=None,
seed=seed)
# combine generators into one which yields image and masks
train_generator = zip(image_generator, mask_generator)
model.fit(
train_generator,
steps_per_epoch=2000,
epochs=50)
Методы
apply_transform
apply_transform(
x, transform_parameters
)
Применяет преобразование к изображению в соответствии с заданными параметрами.
| Аргументы | |
|---|---|
x | 3D тензор, одно изображение. |
transform_parameters | Словарь со строками - парами параметров, описывающими преобразование. В настоящее время используются следующие параметры из словаря:
|
| Возвращает | |
|---|---|
| Преобразованная версия входа (та же форма). |
fit
fit(
x, augment=False, rounds=1, seed=None
)
Подбирает генератор данных к некоторым образцам данных.
Это вычисляет внутренние статистические данные, связанные с преобразованиями, зависящими от данных, на основе массива данных образцов.
Требуется только если featurewise_center или featurewise_std_normalization или zca_whitening установлены в True.
Когда rescale установлено в значение, масштабирование применяется к образцам данных перед вычислением внутренних статистических данных.
| Аргументы | |
|---|---|
x | Данные образца. Должен иметь ранг 4. В случае данных в оттенках серого ось каналов должна иметь значение 1, в случае данных RGB - 3, а в случае данных RGBA - 4. |
augment | Булево (по умолчанию: False). Подбирать на случайно аугментированных образцах. |
rounds | Целое число (по умолчанию: 1). Если используется аугментация данных (augment=True), это количество проходов аугментации данных для использования. |
seed | Целое число (по умолчанию: None). Случайное семя. |
flow
flow(
x, y=None, batch_size=32, shuffle=True, sample_weight=None, seed=None,
save_to_dir=None, save_prefix='', save_format='png',
subset=None
)
Принимает массивы данных и меток, генерирует пакеты аугментированных данных.
| Аргументы | |
|---|---|
x | Входные данные. Массив NumPy ранга 4 или кортеж. Если кортеж, первый элемент должен содержать изображения, а второй элемент - другой массив NumPy или список массивов NumPy, который передается в выходные данные без каких-либо изменений. Может использоваться для подачи различных данных модели наряду с изображениями. В случае данных в оттенках серого ось каналов массива изображения должна иметь значение 1, в случае данных RGB - 3, а в случае данных RGBA - 4. |
y | Метки. |
batch_size | Целое число (по умолчанию: 32). |
shuffle | Булево (по умолчанию: True). |
sample_weight | Веса образца. |
seed | Целое число (по умолчанию: None). |
save_to_dir | None или строка (по умолчанию: None). Это позволяет вам необязательно указать каталог, в который будут сохраняться генерируемые аугментированные изображения (полезно для визуализации того, что вы делаете). |
save_prefix | Строка (по умолчанию: ''). Префикс для использования в именах файлов сохраненных изображений (только актуально, если save_to_dir установлено). |
save_format | Один из "png", "jpeg" (только актуально, если save_to_dir установлено). По умолчанию: "png". |
subset | Подмножество данных ("training" или "validation") если validation_split установлено в ImageDataGenerator. |
| Возвращает | |
|---|---|
Объект Iterator, возвращающий кортежи (x, y), где x - массив NumPy данных изображения (в случае одного входного изображения) или список массивов NumPy (в случае с дополнительными входами), а y - массив NumPy соответствующих меток. Если 'sample_weight' не None, возвращаемые кортежи имеют вид (x, y, sample_weight). Если y None, возвращается только массив NumPy x. |
flow_from_dataframe
flow_from_dataframe(
dataframe, directory=None, x_col='filename', y_col='class',
weight_col=None, target_size=(256, 256), color_mode='rgb',
classes=None, class_mode='categorical', batch_size=32, shuffle=True,
seed=None, save_to_dir=None, save_prefix='',
save_format='png', subset=None, interpolation='nearest',
validate_filenames=True, **kwargs
)
Принимает датафрейм и путь к каталогу + генерирует пакеты.
Сгенерированные пакеты содержат данные, дополненные/нормализованные.
**Простой учебник можно найти **здесь.
| Аргументы | |
|---|---|
dataframe | Pandas датафрейм, содержащий пути к файлам, относительные к directory (или абсолютные пути, если directory равно None) изображений в строковом столбце. Он должен включать другие столбцы/столбцы в зависимости от class_mode: - если class_mode равно "categorical" (значение по умолчанию), он должен содержать столбец y_col с классом/классами каждого изображения. Значения в столбце могут быть строкой/списком/кортежем, если это один класс, или списком/кортежем, если несколько классов. - если class_mode равно "binary" или "sparse", он должен содержать указанный столбец y_col со значениями класса в виде строк. - если class_mode равно "raw" или "multi_output", он должен содержать столбцы, указанные в y_col. - если class_mode равно "input" или None, дополнительные столбцы не нужны. |
directory | строка, путь к каталогу для чтения изображений. Если None, данные в столбце x_col должны быть абсолютными путями. |
x_col | строка, столбец в dataframe, содержащий имена файлов (или абсолютные пути, если directory равно None). |
y_col | строка или список, столбец/столбцы в dataframe, содержащий целевые данные. |
weight_col | строка, столбец в dataframe, содержащий веса образцов. По умолчанию: None. |
target_size | кортеж целых чисел (height, width), по умолчанию: (256, 256). Размер, на который будут изменены все найденные изображения. |
color_mode | одно из "grayscale", "rgb", "rgba". По умолчанию: "rgb". Будут ли изображения преобразованы в изображения с 1 или 3 цветовыми каналами. |
classes | необязательный список классов (например, ['dogs', 'cats']). По умолчанию None. Если не указан, список классов будет автоматически определен из y_col, который будет сопоставляться с индексами меток, будут буквенно-цифровыми. Словарь, содержащий сопоставление имен классов с индексами классов, можно получить через атрибут class_indices. |
class_mode | одно из "binary", "categorical", "input", "multi_output", "raw", "sparse" или None. По умолчанию: "categorical". Режим вывода целей:
|
batch_size | размер пакетов данных (по умолчанию: 32). |
shuffle | перемешивать данные (по умолчанию: True) |
seed | необязательное случайное семя для перемешивания и преобразований. |
save_to_dir | None или строка (по умолчанию: None). Это позволяет необязательно указать каталог, в который будут сохраняться созданные дополненные изображения (полезно для визуализации того, что вы делаете). |
save_prefix | строка. Префикс для имен сохраненных изображений (актуально только если save_to_dir задано). |
save_format | одно из "png", "jpeg" (актуально только если save_to_dir задано). По умолчанию: "png". |
subset | Подмножество данных ("training" или "validation") если validation_split задано в ImageDataGenerator. |
interpolation | Метод интерполяции, используемый для повторной выборки изображения, если целевой размер отличается от размера загруженного изображения. Поддерживаемые методы — "nearest", "bilinear", и "bicubic". Если установлен PIL версии 1.1.3 или более поздней, также поддерживается "lanczos". Если установлен PIL версии 3.4.0 или более поздней, также поддерживаются "box" и "hamming". По умолчанию используется "nearest". |
validate_filenames | Булево значение, указывает на то, нужно ли проверять имена файлов изображений в x_col. Если True, неверные изображения будут проигнорированы. Отключение этой опции может привести к ускорению выполнения этой функции. По умолчанию True. |
**kwargs | аргументы наследия для повышения предупреждений об устаревании. |
| Возвращает | |
|---|---|
DataFrameIterator возвращает кортежи (x, y), где x — массив NumPy, содержащий пакет изображений с формой (batch_size, *target_size, channels), а y — массив NumPy соответствующих меток. |
flow_from_directory
flow_from_directory(
directory, target_size=(256, 256), color_mode='rgb', classes=None,
class_mode='categorical', batch_size=32, shuffle=True, seed=None,
save_to_dir=None, save_prefix='', save_format='png',
follow_links=False, subset=None, interpolation='nearest'
)
Принимает путь к каталогу и генерирует пакеты дополненных данных.
| Аргументы | |
|---|---|
directory | строка, путь к целевому каталогу. Он должен содержать один подкаталог на класс. Любые изображения PNG, JPG, BMP, PPM или TIF внутри каждого из подкаталогов древовидной структуры каталога будут включены в генератор. Подробнее см. этот скрипт. |
target_size | Кортеж целых чисел (height, width), по умолчанию (256, 256). Размер, на который будут изменены все найденные изображения. |
color_mode | Одно из "grayscale", "rgb", "rgba". По умолчанию: "rgb". Будут ли изображения преобразованы в изображения с 1, 3 или 4 каналами. |
classes | Необязательный список подкаталогов класса (например, ['dogs', 'cats']). По умолчанию None. Если не указан, список классов будет автоматически определен по именам/структуре подкаталогов в directory, где каждый подкаталог будет рассматриваться как отдельный класс (и порядок классов, которые будут сопоставляться с индексами меток, будет буквенно-цифровым). Словарь, содержащий сопоставление имен классов с индексами классов, можно получить через атрибут class_indices. |
class_mode | Одно из "categorical", "binary", "sparse", "input" или None. По умолчанию: "categorical". Определяет тип массивов меток, которые возвращаются: - "categorical" — двумерные одноканальные закодированные метки, - "binary" — одномерные бинарные метки, "sparse" — одномерные целые метки, - "input" — изображения, идентичные входным изображениям (в основном используется для работы с автоэнкодерами). - Если None, метки не возвращаются (генератор будет возвращать только пакеты данных изображения, что полезно при использовании с model.predict()). Обратите внимание, что в случае class_mode None данные все равно должны находиться в подкаталоге directory, чтобы он работал правильно. |
batch_size | Размер пакетов данных (по умолчанию: 32). |
shuffle | Перемешивать данные (по умолчанию: True) Если установлено в False, сортирует данные в алфавитном порядке. |
seed | Необязательное случайное семя для перемешивания и преобразований. |
save_to_dir | None или строка (по умолчанию: None). Это позволяет необязательно указать каталог, в который будут сохраняться созданные дополненные изображения (полезно для визуализации того, что вы делаете). |
save_prefix | Строка. Префикс для имен сохраненных изображений (актуально только если save_to_dir задано). |
save_format | Одно из "png", "jpeg" (актуально только если save_to_dir задано). По умолчанию: "png". |
follow_links | Следовать ли ссылкам на символы внутри подкаталогов класса (по умолчанию: False). |
subset | Подмножество данных ("training" или "validation") если validation_split задано в ImageDataGenerator. |
interpolation | Метод интерполяции, используемый для повторной выборки изображения, если целевой размер отличается от размера загруженного изображения. Поддерживаемые методы — "nearest", "bilinear", и "bicubic". Если установлен PIL версии 1.1.3 или более поздней, также поддерживается "lanczos". Если установлен PIL версии 3.4.0 или более поздней, также поддерживаются "box" и "hamming". По умолчанию используется "nearest". |
| Возвращает | |
|---|---|
DirectoryIterator возвращает кортежи (x, y), где x — массив NumPy, содержащий пакет изображений с формой (batch_size, *target_size, channels), а y — массив NumPy соответствующих меток. |
get_random_transform
get_random_transform(
img_shape, seed=None
)
Генерирует случайные параметры для преобразования.
| Аргументы | |
|---|---|
seed | Случайное семя. |
img_shape | Кортеж целых чисел. Форма изображения, которое преобразуется. |
| Возвращаемое значение | |
|---|---|
| Словарь, содержащий случайно выбранные параметры, описывающие преобразование. |
random_transform
random_transform(
x, seed=None
)
Применяет случайное преобразование к изображению.
| Аргументы | |
|---|---|
x | 3D тензор, одно изображение. |
seed | Случайное семя. |
| Возвращаемое значение | |
|---|---|
| Случайно преобразованная версия входных данных (такая же форма). |
standardize
standardize(
x
)
Применяет конфигурацию нормализации непосредственно к набору входных данных.
x изменяется непосредственно, так как функция в основном используется внутри для нормализации изображений и подачи их в вашу сеть. Если бы вместо этого была создана копия x, это повлекло бы значительные затраты производительности. Если вы хотите применить этот метод без изменения входных данных непосредственно, вы можете вызвать метод, создавая копию до:
standardize(np.copy(x))
| Аргументы | |
|---|---|
x | Набор входных данных, которые нужно нормализовать. |
| Возвращаемое значение | |
|---|---|
| Входные данные, нормализованные. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/keras/preprocessing/image/ImageDataGenerator