Spec-Zone.ru › TensorFlow

tf.train.CheckpointManager

Управляет несколькими контрольными точками, сохраняя некоторые и удаляя ненужные.

Просмотр псевдонимов

Псевдонимы совместимости для миграции

См. Руководство по миграции для получения дополнительной информации.

tf.compat.v1.train.CheckpointManager

tf.train.CheckpointManager(
    checkpoint,
    directory,
    max_to_keep,
    keep_checkpoint_every_n_hours=None,
    checkpoint_name='ckpt',
    step_counter=None,
    checkpoint_interval=None,
    init_fn=None
)

Используется в ноутбуках

Используется в руководстве Используется в учебниках
  • Точки сохранения обучения
  • tf.data: Создание потоков входных данных TensorFlow
  • Миграция механизма отказоустойчивости
  • Распределенное обучение с DTensors
  • Пользовательский цикл обучения с Keras и MultiWorkerMirroredStrategy
  • Многоузловое обучение с Keras
  • CycleGAN
  • Обучение с помощью Orbit

Пример использования:

import tensorflow as tf
checkpoint = tf.train.Checkpoint(optimizer=optimizer, model=model)
manager = tf.train.CheckpointManager(
    checkpoint, directory="/tmp/model", max_to_keep=5)
status = checkpoint.restore(manager.latest_checkpoint)
while True:
  # train
  manager.save()

CheckpointManager сохраняет собственное состояние при повторном создании (см. документацию __init__ для получения подробностей). Только один должен быть активен в определенной директории в конкретный момент.

Аргументы
checkpoint Экземпляр tf.train.Checkpoint, для сохранения и управления контрольными точками.
directory Путь к директории, в которой будут сохраняться контрольные точки. В эту директорию также записывается специальный файл с именем "checkpoint" (в удобочитаемом текстовом формате), содержащий состояние CheckpointManager.
max_to_keep Целое число, количество контрольных точек для сохранения. Если не сохранено keep_checkpoint_every_n_hours, контрольные точки будут удаляться из активного набора, начиная с самых старых, пока не останется только max_to_keep контрольных точек. Если None, контрольные точки не удаляются, и всё остается в активном наборе. Обратите внимание, что max_to_keep=None будет хранить все пути к контрольным точкам в памяти и в протоколе состояния контрольной точки на диске.
keep_checkpoint_every_n_hours При удалении из активного набора контрольная точка будет сохранена, если прошло не менее keep_checkpoint_every_n_hours с момента последней сохранённой контрольной точки. Значение по умолчанию None не сохраняет контрольные точки таким образом.
checkpoint_name Пользовательское имя для файла контрольной точки.
step_counter Экземпляр tf.Variable для проверки текущего значения счётчика шагов, в случае, если пользователи хотят сохранять контрольные точки каждые N шагов.
checkpoint_interval Целое число, указывающее минимальный интервал шагов между двумя контрольными точками.
init_fn Функция. Функция для выполнения пользовательской инициализации, если в директории нет контрольных точек.
Возможные исключения
ValueError Если max_to_keep не является положительным целым числом.
Атрибуты
checkpoint Возвращает объект tf.train.Checkpoint.
checkpoint_interval
checkpoints Список управляемых контрольных точек.

Обратите внимание, что контрольные точки, сохранённые из-за keep_checkpoint_every_n_hours, не будут отображаться в этом списке (чтобы избежать постоянно растущих списков имён файлов).

directory
latest_checkpoint Префикс последней контрольной точки в directory.

Эквивалентно tf.train.latest_checkpoint(directory), где directory – аргумент конструктора для CheckpointManager.

Подходит для передачи в tf.train.Checkpoint.restore для возобновления обучения.

Методы

restore_or_initialize

Просмотреть исходный код

restore_or_initialize()

Восстанавливает элементы в checkpoint из последнего файла контрольной точки.

Этот метод сначала попытается восстановить из последней контрольной точки в directory. Если в directory нет контрольных точек, и указан init_fn, этот метод вызовет init_fn для выполнения пользовательской инициализации. Это можно использовать для поддержки инициализации из предварительно обученных моделей.

Обратите внимание, что в отличие от tf.train.Checkpoint.restore(), этот метод не возвращает объект статуса загрузки, на котором пользователи могут выполнить проверки (например, assert_consumed()). Таким образом, для выполнения проверок пользователи должны напрямую использовать метод tf.train.Checkpoint.restore().

Возвращает
Путь к восстановленной контрольной точке, если найдена и восстановлена последняя контрольная точка. В противном случае None.

save

Просмотреть исходный код

save(
    checkpoint_number=None, check_interval=True, options=None
)

Создаёт новую контрольную точку и управляет ею.

Аргументы
checkpoint_number Необязательное целое число или целое число типа Variable или Tensor, используемое для нумерации контрольной точки. Если None (по умолчанию), контрольные точки нумеруются с помощью checkpoint.save_counter. Даже если checkpoint_number предоставлено, save_counter всё равно увеличивается. Пользовательское предоставленное checkpoint_number не увеличивается, даже если это Variable.
check_interval Необязательный boolean. Аргумент эффективен только когда checkpoint_interval передаётся в менеджер. Если True, менеджер сохранит контрольную точку только если интервал между контрольными точками больше, чем checkpoint_interval. Иначе он всегда сохранит контрольную точку, если для текущего шага ещё не сохранена контрольная точка.
options Необязательный объект tf.train.CheckpointOptions. Этот аргумент работает только с объектами контрольных точек TF2. Например, options = tf.saved_model.SaveOptions(experimental_io_device='/job:localhost')
Возвращает
Путь к новой контрольной точке. Он также записывается в свойства checkpoints и latest_checkpoint. None, если контрольная точка не сохранена.

sync

Просмотреть исходный код

sync()

Ожидание завершения любых незавершенных операций сохранения или восстановления.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/train/CheckpointManager

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API