Spec-Zone.ru › TensorFlow

tf.data.experimental.load

Загружает ранее сохраненный набор данных. (устарела)

tf.data.experimental.load(
    path, element_spec=None, compression=None, reader_func=None
)
Устарела: ЭТА ФУНКЦИЯ УСТАРЕЛА. Она будет удалена в будущей версии. Инструкции по обновлению: вместо нее используйте tf.data.Dataset.load(...).

Пример использования:

import tempfile
path = os.path.join(tempfile.gettempdir(), "saved_data")
# Save a dataset
dataset = tf.data.Dataset.range(2)
tf.data.experimental.save(dataset, path)
new_dataset = tf.data.experimental.load(path)
for elem in new_dataset:
  print(elem)
tf.Tensor(0, shape=(), dtype=int64)
tf.Tensor(1, shape=(), dtype=int64)

Если при сохранении набора данных использовался параметр шардирования по умолчанию, порядок элементов сохраненного набора данных будет сохранен при его загрузке.

Аргумент reader_func можно использовать, чтобы указать собственный порядок загрузки элементов из отдельных шардов. Ожидается, что reader_func принимает один аргумент — набор данных, состоящий из наборов данных, каждый из которых содержит элементы одного из шардов, — и возвращает набор данных, состоящий из элементов. Например, при загрузке порядок шардов можно перемешать следующим образом:

def custom_reader_func(datasets):
  datasets = datasets.shuffle(NUM_SHARDS)
  return datasets.interleave(lambda x: x, num_parallel_calls=AUTOTUNE)

dataset = tf.data.experimental.load(
    path="/path/to/data", ..., reader_func=custom_reader_func)
Аргументы
path Обязательный аргумент. Путь к ранее сохраненному набору данных.
element_spec Необязательный аргумент. Вложенная структура объектов tf.TypeSpec, соответствующая структуре элемента сохраненного набора данных и задающая тип отдельных компонентов элемента. Если аргумент не указан, используется вложенная структура tf.TypeSpec, сохраненная вместе с набором данных. Обратите внимание, что этот аргумент обязателен в режиме графа.
compression Необязательный аргумент. Алгоритм, используемый для распаковки данных при их чтении. Поддерживаются варианты GZIP и NONE. По умолчанию используется NONE.
reader_func Необязательный аргумент. Функция, управляющая чтением данных из шардов. Если она указана, функция будет трассирована и выполнена как вычисление графа.
Возвращает
Экземпляр tf.data.Dataset.
Вызывает исключения
FileNotFoundError Если element_spec не указан и сохраненную вложенную структуру tf.TypeSpec невозможно найти вместе с сохраненным набором данных.
ValueError Если element_spec не указан, а метод выполняется в режиме графа.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/data/experimental/load

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API