tf.keras.experimental.LinearModel

Линейная модель для задач регрессии и классификации.

Наследуется от: Model

tf.keras.experimental.LinearModel(
    units=1, activation=None, use_bias=True, kernel_initializer='zeros',
    bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None,
    **kwargs
)

Эта модель приближает следующую функцию:

где

является смещением, а

является весом для каждого признака.

Пример:

model = LinearModel()
model.compile(optimizer='sgd', loss='mse')
model.fit(x, y, epochs=epochs)

Эта модель также принимает разреженные числовые входные данные:

Пример:

model = LinearModel()
opt = tf.keras.optimizers.Adam()
loss_fn = tf.keras.losses.MeanSquaredError()
with tf.GradientTape() as tape:
  output = model(sparse_input)
  loss = tf.reduce_mean(loss_fn(target, output))
grads = tape.gradient(loss, model.weights)
opt.apply_gradients(zip(grads, model.weights))

inputs = tf.keras.layers.Input(shape=(3,))
outputs = tf.keras.layers.Dense(2)(inputs)
model = tf.keras.models.Model(inputs=inputs, outputs=outputs)
model.compile(optimizer="Adam", loss="mse", metrics=["mae"])
model.metrics_names
[]

x = np.random.random((2, 3))
y = np.random.randint(0, 2, (2, 2))
model.fit(x, y)
model.metrics_names
['loss', 'mae']

inputs = tf.keras.layers.Input(shape=(3,))
d = tf.keras.layers.Dense(2, name='out')
output_1 = d(inputs)
output_2 = d(inputs)
model = tf.keras.models.Model(
   inputs=inputs, outputs=[output_1, output_2])
model.compile(optimizer="Adam", loss="mse", metrics=["mae", "acc"])
model.fit(x, (y, y))
model.metrics_names
['loss', 'out_loss', 'out_1_loss', 'out_mae', 'out_acc', 'out_1_mae',
'out_1_acc']

Методы

compile

Просмотреть исходный код

compile(
    optimizer='rmsprop', loss=None, metrics=None, loss_weights=None,
    weighted_metrics=None, run_eagerly=None, **kwargs
)

Настраивает модель для обучения.

evaluate

Просмотреть исходный код

evaluate(
    x=None, y=None, batch_size=None, verbose=1, sample_weight=None, steps=None,
    callbacks=None, max_queue_size=10, workers=1, use_multiprocessing=False,
    return_dict=False
)

Возвращает значение потерь и значения метрик для модели в режиме тестирования.

Вычисление выполняется партиями (см. аргумент batch_size).

См. обсуждение Unpacking behavior for iterator-like inputs для Model.fit.

evaluate_generator

Посмотреть исходный код

evaluate_generator(
    generator, steps=None, callbacks=None, max_queue_size=10, workers=1,
    use_multiprocessing=False, verbose=0
)

Оценивает модель на основе генератора данных. (устарело)

УСТАРЕВШАЯ ФУНКЦИЯ:

Model.evaluate теперь поддерживает генераторы, поэтому использование данного метода больше не требуется.

fit

Посмотреть исходный код

fit(
    x=None, y=None, batch_size=None, epochs=1, verbose=1, callbacks=None,
    validation_split=0.0, validation_data=None, shuffle=True, class_weight=None,
    sample_weight=None, initial_epoch=0, steps_per_epoch=None,
    validation_steps=None, validation_batch_size=None, validation_freq=1,
    max_queue_size=10, workers=1, use_multiprocessing=False
)

Обучает модель для заданного количества эпох (итераций по набору данных).

Поведение распаковки для итерационных входных данных: Общим шаблоном является передача tf.data.Dataset, генератора или tf.keras.utils.Sequence в аргумент x метода fit, который фактически выдает не только признаки (x), но и, по желанию, целевые значения (y) и веса образцов. Keras требует, чтобы выход таких итераторов был однозначным. Итератор должен возвращать кортеж длиной 1, 2 или 3, где необязательные второй и третий элементы будут использованы для y и sample_weight соответственно. Любой другой тип будет обернут в кортеж длины один, эффективно рассматривая все как 'x'. При выводе словарей они должны всё же придерживаться структуры кортежа верхнего уровня. Например, ({"x0": x0, "x1": x1}, y). Keras не будет пытаться отделить признаки, целевые значения и веса от ключей одного словаря. Примечательный недопустимый тип данных — namedtuple. Причина в том, что он ведет себя как упорядоченный тип данных (кортеж) и как тип данных сопоставления (словарь). Таким образом, при наличии namedtuple вида: namedtuple("example_tuple", ["y", "x"]) неясно, нужно ли изменять порядок элементов при интерпретации значения. Ещё хуже кортеж вида: namedtuple("other_tuple", ["x", "y", "z"]), где неясно, предназначался ли кортеж для распаковки в x, y и sample_weight или для передачи как единый элемент в x. В результате код обработки данных просто сгенерирует ValueError, если встретит namedtuple. (Вместе с инструкциями по исправлению проблемы.)

fit_generator

Просмотреть исходный код

fit_generator(
    generator, steps_per_epoch=None, epochs=1, verbose=1, callbacks=None,
    validation_data=None, validation_steps=None, validation_freq=1,
    class_weight=None, max_queue_size=10, workers=1, use_multiprocessing=False,
    shuffle=True, initial_epoch=0
)

Обучает модель на данных, получаемых по частям от Python-генератора. (устарело)

УСТАРЕЛО:

Model.fit теперь поддерживает генераторы, поэтому использование этого метода больше не требуется.

get_layer

Просмотреть исходный код

get_layer(
    name=None, index=None
)

Возвращает слой по имени (уникальному) или индексу.

Если name и index оба предоставлены, index будет иметь приоритет. Индексы основаны на порядке горизонтального обхода графа (сверху вниз).

load_weights

Просмотреть исходный код

load_weights(
    filepath, by_name=False, skip_mismatch=False, options=None
)

Загружает все веса слоев из файла весов TensorFlow или HDF5.

Если by_name равно False, веса загружаются на основе топологии сети. Это означает, что архитектура должна быть такой же, как при сохранении весов. Обратите внимание, что слои, не имеющие весов, не учитываются при топологической сортировке, поэтому добавление или удаление слоев допустимо, если у них нет весов.

Если by_name равно True, веса загружаются в слои только в том случае, если они имеют одинаковое имя. Это полезно для дообучения или трансферного обучения моделей, где некоторые слои изменились.

Только топологическая загрузка (by_name=False) поддерживается при загрузке весов из формата TensorFlow. Обратите внимание, что топологическая загрузка немного отличается между форматами TensorFlow и HDF5 для пользовательских классов, наследуемых от tf.keras.Model: HDF5 загружает на основе сплющенного списка весов, а формат TensorFlow загружает на основе локальных имен атрибутов, к которым присвоены слои в конструкторе Model.

make_predict_function

Просмотреть исходный код

make_predict_function()

Создает функцию, выполняющую один шаг вывода.

Этот метод можно переопределить для поддержки пользовательской логики вывода. Этот метод вызывается Model.predict и Model.predict_on_batch.

Обычно этот метод напрямую управляет настройками tf.function и tf.distribute.Strategy, и делегирует фактическую логику оценки методу Model.predict_step.

Эта функция кэшируется при первом вызове Model.predict или Model.predict_on_batch. Кэш очищается при каждом вызове Model.compile.

make_test_function

Просмотреть исходный код

make_test_function()

Создаёт функцию, выполняющую один шаг оценки.

Этот метод можно переопределить для поддержки пользовательской логики оценки. Этот метод вызывается Model.evaluate и Model.test_on_batch.

Обычно этот метод напрямую управляет настройками tf.function и tf.distribute.Strategy, и делегирует фактическую логику оценки методу Model.test_step.

Эта функция кэшируется при первом вызове Model.evaluate или Model.test_on_batch. Кэш очищается при каждом вызове Model.compile.

make_train_function

Просмотреть исходный код

make_train_function()

Создает функцию, выполняющую один шаг обучения.

Этот метод можно переопределить для поддержки пользовательской логики обучения. Этот метод вызывается Model.fit и Model.train_on_batch.

Обычно этот метод напрямую управляет настройками tf.function и tf.distribute.Strategy, и делегирует фактическую логику обучения методу Model.train_step.

Эта функция кэшируется при первом вызове Model.fit или Model.train_on_batch. Кэш очищается при каждом вызове Model.compile.

predict

Просмотреть исходный код

predict(
    x, batch_size=None, verbose=0, steps=None, callbacks=None, max_queue_size=10,
    workers=1, use_multiprocessing=False
)

Генерирует предсказания для входных выборок.

Вычисление выполняется партиями. Этот метод разработан для производительности с большими входными данными. Для небольшого количества входных данных, которые помещаются в одну партию, рекомендуется использовать напрямую __call__, например, model(x), или model(x, training=False), если у вас есть слои, такие как tf.keras.layers.BatchNormalization, которые ведут себя по-разному при выводе. Также обратите внимание на тот факт, что тестовая ошибка не зависит от регуляризующих слоёв, таких как шум и дропаут.

См. обсуждение Unpacking behavior for iterator-like inputs для Model.fit. Обратите внимание, что Model.predict использует те же правила интерпретации, что и Model.fit и Model.evaluate, поэтому входные данные должны быть однозначными для всех трех методов.

predict_generator

Посмотреть исходный код

predict_generator(
    generator, steps=None, callbacks=None, max_queue_size=10, workers=1,
    use_multiprocessing=False, verbose=0
)

Генерирует предсказания для входных примеров из генератора данных. (устаревший)

УСТАРЕЛО:

Model.predict теперь поддерживает генераторы, поэтому больше нет необходимости использовать этот метод.

predict_on_batch

Посмотреть исходный код

predict_on_batch(
    x
)

Возвращает предсказания для одного батча примеров.

predict_step

Посмотреть исходный код

predict_step(
    data
)

Логика для одного шага вывода.

Этот метод может быть переопределен для поддержки пользовательской логики вывода. Этот метод вызывается методом Model.make_predict_function.

Этот метод должен содержать математическую логику для одного шага вывода. Обычно это включает прямой проход.

Детали конфигурации способа выполнения этой логики (например, параметры tf.function и tf.distribute.Strategy), должны быть оставлены методу Model.make_predict_function, который также может быть переопределен.

reset_metrics

Посмотреть исходный код

reset_metrics()

Сбрасывает состояние всех метрик в модели.

Примеры:

inputs = tf.keras.layers.Input(shape=(3,))
outputs = tf.keras.layers.Dense(2)(inputs)
model = tf.keras.models.Model(inputs=inputs, outputs=outputs)
model.compile(optimizer="Adam", loss="mse", metrics=["mae"])

x = np.random.random((2, 3))
y = np.random.randint(0, 2, (2, 2))
_ = model.fit(x, y, verbose=0)
assert all(float(m.result()) for m in model.metrics)

model.reset_metrics()
assert all(float(m.result()) == 0 for m in model.metrics)

reset_states

Посмотреть исходный код

reset_states()

save

Посмотреть исходный код

save(
    filepath, overwrite=True, include_optimizer=True, save_format=None,
    signatures=None, options=None
)

Сохраняет модель в формате Tensorflow SavedModel или в отдельный файл HDF5.

Файл сохранения содержит:

• Архитектура модели, позволяющая повторно создать модель.
• Веса модели.
• Состояние оптимизатора, позволяющее продолжить обучение точно с того места, где вы остановились.

Это позволяет сохранить весь состояние модели в одном файле.

Сохраненные модели могут быть повторно созданы с помощью keras.models.load_model. Модель, возвращаемая load_model, — это скомпилированная модель, готовая к использованию (если сохраненная модель не была скомпилирована в первый раз).

Модели, созданные с помощью API Sequential и Functional, могут быть сохранены в форматах HDF5 и SavedModel. Подклассированные модели могут быть сохранены только в формате SavedModel.

Обратите внимание, что веса модели могут иметь разные имена областей после загрузки. Имена областей включают имена модели/слоя, такие как "dense_1/kernel:0". Рекомендуется использовать свойства слоя для доступа к конкретным переменным, например model.get_layer("dense_1").kernel.

Пример:

from keras.models import load_model

model.save('my_model.h5')  # creates a HDF5 file 'my_model.h5'
del model  # deletes the existing model

# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

save_weights

Посмотреть исходный код

save_weights(
    filepath, overwrite=True, save_format=None, options=None
)

Сохраняет все весы слоев.

Сохраняет либо в HDF5, либо в формате TensorFlow, в зависимости от аргумента save_format.

При сохранении в формате HDF5 файл весов содержит:

• layer_names (атрибут), список строк (упорядоченные имена слоёв модели).
• Для каждого слоя, group с именем layer.name
  • Для каждой такой группы слоёв, атрибут группы weight_names, список строк (упорядоченные имена тензоров весов слоя).
  • Для каждого веса в слое, набор данных, хранящий значение веса, с именем, соответствующим имени тензора веса.

При сохранении в формате TensorFlow все объекты, на которые ссылается сеть, сохраняются в том же формате, что и tf.train.Checkpoint, включая любые экземпляры Layer или экземпляры Optimizer , присвоенные атрибутам объекта. Для сетей, построенных из входов и выходов с помощью tf.keras.Model(inputs, outputs), экземпляры Layer , используемые сетью, отслеживаются/сохраняются автоматически. Для пользовательских классов, унаследованных от tf.keras.Model, экземпляры Layer должны быть присвоены атрибутам объекта, как правило, в конструкторе. Подробности см. в документации tf.train.Checkpoint и tf.keras.Model.

Хотя форматы одинаковы, не смешивайте save_weights и tf.train.Checkpoint. Сохранённые контрольные точки с помощью Model.save_weights должны загружаться с помощью Model.load_weights. Контрольные точки, сохранённые с помощью tf.train.Checkpoint.save, должны восстанавливаться с помощью соответствующей tf.train.Checkpoint.restore. Предпочтите tf.train.Checkpoint над save_weights для контрольных точек обучения.

Формат TensorFlow сопоставляет объекты и переменные, начиная с корневого объекта, self для save_weights, и жадно подбирая имена атрибутов. Для Model.save это Model, а для Checkpoint.save это Checkpoint даже если у Checkpoint есть прикреплённая модель. Это означает, что сохранение tf.keras.Model с помощью save_weights и загрузка в tf.train.Checkpoint с прикреплённой Model (или наоборот) не будут соответствовать переменным Model. Подробности о формате TensorFlow см. в руководстве по контрольным точкам обучения.

summary

Просмотреть исходный код

summary(
    line_length=None, positions=None, print_fn=None
)

Выводит текстовое описание сети.

test_on_batch

Просмотреть исходный код

test_on_batch(
    x, y=None, sample_weight=None, reset_metrics=True, return_dict=False
)

Тестирование модели на одной партии выборок.

test_step

Просмотреть исходный код

test_step(
    data
)

Логика для одного шага оценки.

Этот метод может быть переопределён для поддержки пользовательской логики оценки. Этот метод вызывается методом Model.make_test_function.

Эта функция должна содержать математическую логику для одного шага оценки. Это обычно включает прямой проход, вычисление потерь и обновление метрик.

Подробности о том, как эта логика запускается (например, настройки tf.function и tf.distribute.Strategy), должны быть оставлены методу Model.make_test_function, который также может быть переопределён.

to_json

Просмотреть исходный код

to_json(
    **kwargs
)

Возвращает строку JSON, содержащую конфигурацию сети.

Чтобы загрузить сеть из сохранённого файла JSON, используйте keras.models.model_from_json(json_string, custom_objects={}).

to_yaml

Просмотреть исходный код

to_yaml(
    **kwargs
)

Возвращает строку YAML, содержащую конфигурацию сети.

Чтобы загрузить сеть из сохранённого файла YAML, используйте keras.models.model_from_yaml(yaml_string, custom_objects={}).

custom_objects должен быть словарем, сопоставляющим имена пользовательских функций потерь/слоёв и т.д. соответствующим функциям/классам.

train_on_batch

Просмотреть исходный код

train_on_batch(
    x, y=None, sample_weight=None, class_weight=None, reset_metrics=True,
    return_dict=False
)

Выполняет одну итерацию градиентного спуска на одной порции данных.

train_step

Просмотреть исходный код

train_step(
    data
)

Логика для одного шага обучения.

Этот метод можно переопределить для поддержки пользовательской логики обучения. Этот метод вызывается методом Model.make_train_function.

Этот метод должен содержать математическую логику для одного шага обучения. Это обычно включает прямой проход, вычисление потерь, обратное распространение и обновление метрик.

Подробности конфигурации того, *как* выполняется эта логика (например, tf.function и tf.distribute.Strategy настройки), следует оставлять методу Model.make_train_function, который также можно переопределить.