tf.compat.v1.train.Saver

Сохраняет и восстанавливает переменные.

tf.compat.v1.train.Saver(
    var_list=None,
    reshape=False,
    sharded=False,
    max_to_keep=5,
    keep_checkpoint_every_n_hours=10000.0,
    name=None,
    restore_sequentially=False,
    saver_def=None,
    builder=None,
    defer_build=False,
    allow_empty=False,
    write_version=saver_pb2.SaverDef.V2,
    pad_step_number=False,
    save_relative_paths=False,
    filename=None
)

tf.compat.v1.train.Saver не поддерживается для сохранения и восстановления контрольных точек в TF2. Перейдите на tf.train.Checkpoint или tf.keras.Model.save_weights, которые обеспечивают более надежное сохранение на основе объектов.

Как переписать контрольные точки

Незамедлительно перепишите контрольные точки с помощью API контрольных точек на основе объектов.

Загрузить контрольную точку на основе имен, записанную с помощью tf.compat.v1.train.Saver, можно с помощью tf.train.Checkpoint.restore или tf.keras.Model.load_weights. Однако может потребоваться изменить имена переменных в модели так, чтобы они совпадали с именами переменных в контрольной точке на основе имен. Просмотреть имена можно с помощью tf.train.list_variables(path).

Другой вариант — создать assignment_map, сопоставляющий имена переменных в контрольной точке на основе имен с переменными в модели, например:

{
    'sequential/dense/bias': model.variables[0],
    'sequential/dense/kernel': model.variables[1]
}

и использовать tf.compat.v1.train.init_from_checkpoint(path, assignment_map) для восстановления контрольной точки на основе имен.

После восстановления повторно закодируйте контрольную точку с помощью tf.train.Checkpoint.save или tf.keras.Model.save_weights.

Подробнее см. раздел Совместимость контрольных точек в руководстве по переходу.

Управление контрольными точками в TF2

Для управления контрольными точками в TF2 используйте tf.train.CheckpointManager. tf.train.CheckpointManager предоставляет эквивалентные параметры keep_checkpoint_every_n_hours и max_to_keep.

Чтобы восстановить последнюю контрольную точку,

checkpoint = tf.train.Checkpoint(model)
manager = tf.train.CheckpointManager(checkpoint)
status = checkpoint.restore(manager.latest_checkpoint)

tf.train.CheckpointManager также записывает протокол буфера CheckpointState, содержащий метку времени создания каждой контрольной точки.

Запись MetaGraphDefs в TF2

Вместо tf.compat.v1.train.Saver.save(write_meta_graph=True) используйте tf.saved_model.save для записи MetaGraphDef (который содержится в saved_model.pb).

Описание

Используется в блокнотах

Обзор переменных, их сохранения и восстановления см. в разделе Переменные.

Класс Saver добавляет операции для сохранения переменных в контрольные точки и восстановления из них. Он также предоставляет вспомогательные методы для выполнения этих операций.

Контрольные точки — это двоичные файлы в проприетарном формате, сопоставляющие имена переменных со значениями тензоров. Лучше всего изучить содержимое контрольной точки, загрузив ее с помощью Saver.

Сохранители могут автоматически нумеровать имена файлов контрольных точек с помощью заданного счетчика. Это позволяет хранить несколько контрольных точек, созданных на разных шагах обучения модели. Например, можно нумеровать имена файлов контрольных точек по номеру шага обучения. Чтобы избежать переполнения диска, сохранители автоматически управляют файлами контрольных точек. Например, они могут хранить только N последних файлов или по одной контрольной точке за каждые N часов обучения.

Чтобы нумеровать имена файлов контрольных точек, передайте значение необязательному аргументу global_step в save():

saver.save(sess, 'my-model', global_step=0) ==> filename: 'my-model-0'
...
saver.save(sess, 'my-model', global_step=1000) ==> filename: 'my-model-1000'

Кроме того, необязательные аргументы конструктора Saver() позволяют управлять количеством файлов контрольных точек на диске:

• max_to_keep задает максимальное количество последних файлов контрольных точек, которые нужно хранить. При создании новых файлов старые удаляются. Если указано None или 0, контрольные точки не удаляются из файловой системы, но в файле checkpoint сохраняется только последняя. Значение по умолчанию — 5 (то есть сохраняются 5 последних файлов контрольных точек).

• keep_checkpoint_every_n_hours: Помимо хранения последних max_to_keep файлов контрольных точек, можно сохранять по одному файлу контрольной точки за каждые N часов обучения. Это может быть полезно, если позднее понадобится проанализировать ход обучения модели во время длительного сеанса. Например, передав keep_checkpoint_every_n_hours=2, вы сохраните по одному файлу контрольной точки за каждые 2 часа обучения. Значение по умолчанию — 10 000 часов, что фактически отключает эту функцию.

Обратите внимание: для сохранения модели по-прежнему необходимо вызывать метод save(). Передача этих аргументов конструктору не приведет к автоматическому сохранению переменных.

Программа обучения, которая регулярно сохраняет данные, выглядит так:

...
# Create a saver.
saver = tf.compat.v1.train.Saver(...variables...)
# Launch the graph and train, saving the model every 1,000 steps.
sess = tf.compat.v1.Session()
for step in range(1000000):
    sess.run(..training_op..)
    if step % 1000 == 0:
        # Append the step number to the checkpoint name:
        saver.save(sess, 'my-model', global_step=step)

Помимо файлов контрольных точек, сохранители хранят на диске буфер протокола со списком последних контрольных точек. Он используется для управления нумерованными файлами контрольных точек, а также методом latest_checkpoint(), который позволяет легко определить путь к последней контрольной точке. Этот буфер протокола хранится в файле с именем «checkpoint» рядом с файлами контрольных точек.

Если вы создаете несколько сохранителей, в вызове save() можно указать другое имя файла буфера протокола.

Методы

as_saver_def

Посмотреть исходный код

as_saver_def()

Создает представление этого сохранителя в формате SaverDef.

build

Посмотреть исходный код

build()

export_meta_graph

Посмотреть исходный код

export_meta_graph(
    filename=None,
    collection_list=None,
    as_text=False,
    export_scope=None,
    clear_devices=False,
    clear_extraneous_savers=False,
    strip_default_attrs=False,
    save_debug_info=False
)

Записывает MetaGraphDef в save_path/filename.

from_proto

Посмотреть исходный код

@staticmethod
from_proto(
    saver_def, import_scope=None
)

Возвращает объект Saver, созданный из saver_def.

recover_last_checkpoints

Посмотреть исходный код

recover_last_checkpoints(
    checkpoint_paths
)

Восстанавливает внутреннее состояние сохранителя после сбоя.

Этот метод полезен для восстановления состояния «self._last_checkpoints».

Выполняет поиск контрольных точек, на которые указывает checkpoint_paths. Если файлы существуют, в качестве метки времени контрольной точки используется время их последнего изменения.

restore

Посмотреть исходный код

restore(
    sess, save_path
)

Восстанавливает ранее сохраненные переменные.

Этот метод запускает операции, добавленные конструктором для восстановления переменных. Для этого необходим сеанс, в котором был запущен граф. Восстанавливаемые переменные не обязательно должны быть инициализированы, поскольку восстановление само по себе служит способом инициализации переменных.

Аргумент save_path обычно представляет собой значение, ранее возвращенное вызовом save() или вызовом latest_checkpoint().

save

Посмотреть исходный код

save(
    sess,
    save_path,
    global_step=None,
    latest_filename=None,
    meta_graph_suffix='meta',
    write_meta_graph=True,
    write_state=True,
    strip_default_attrs=False,
    save_debug_info=False
)

Сохраняет переменные.

Этот метод запускает операции, добавленные конструктором для сохранения переменных. Для этого необходим сеанс, в котором был запущен граф. Сохраняемые переменные также должны быть инициализированы.

Метод возвращает префикс пути к только что созданным файлам контрольной точки. Эту строку можно напрямую передать вызову restore().

set_last_checkpoints

Посмотреть исходный код

set_last_checkpoints(
    last_checkpoints
)

Задает список имен файлов старых контрольных точек.

set_last_checkpoints_with_time

Посмотреть исходный код

set_last_checkpoints_with_time(
    last_checkpoints_with_time
)

Задает список имен файлов и меток времени старых контрольных точек.

to_proto

Посмотреть исходный код

to_proto(
    export_scope=None
)

Преобразует этот Saver в протокол буфера SaverDef.