Модуль: tf.data.experimental

Экспериментальный API для построения входных конвейеров.

Этот модуль содержит экспериментальные Dataset источники и преобразования, которые можно использовать совместно с API tf.data.Dataset. Обратите внимание, что API tf.data.experimental не подлежит тем же гарантиям обратной совместимости, что и tf.data, но мы предоставим рекомендации по устареванию перед удалением существующей функциональности.

См. Импорт данных для обзора.

Модули

service модуль: API для использования службы tf.data.

Классы

class AutoShardPolicy: Представляет тип авто-фрагментации, который мы включаем.

class CheckpointInputPipelineHook: Осуществляет сохранение состояния входного конвейера каждые N шагов или секунд.

class CsvDataset: Набор данных, содержащий строки из одного или нескольких файлов CSV.

class DistributeOptions: Представляет параметры распределённой обработки данных.

class MapVectorizationOptions: Представляет параметры оптимизации MapVectorization.

class OptimizationOptions: Представляет параметры оптимизаций набора данных.

class Optional: Представляет значение, которое может или не может присутствовать.

class RandomDataset: A Dataset псевдослучайных значений.

class Reducer: Редуктор используется для сокращения набора элементов.

class SqlDataset: Набор данных, состоящий из результатов запроса SQL.

class StatsAggregator: Состоятельный ресурс, который агрегирует статистику из одного или нескольких итераторов.

class StatsOptions: Представляет параметры для сбора статистики набора данных с помощью StatsAggregator.

class TFRecordWriter: Записывает набор данных в файл TFRecord.

class ThreadingOptions: Представляет параметры потоковой обработки набора данных.

Функции

Counter(...): Создаёт Dataset, который считает от start с шагом step.

assert_cardinality(...): Проверяет мощность входного набора данных.

bucket_by_sequence_length(...): Преобразование, которое группирует элементы в Dataset по длине.

bytes_produced_stats(...): Записывает количество байтов, производимых каждым элементом входного набора данных.

cardinality(...): Возвращает мощность dataset, если она известна.

choose_from_datasets(...): Создаёт набор данных, который детерминированно выбирает элементы из datasets.

copy_to_device(...): Преобразование, которое копирует элементы набора данных на заданный target_device.

dense_to_ragged_batch(...): Преобразование, которое группирует разреженные элементы в tf.RaggedTensor.

dense_to_sparse_batch(...): Преобразование, которое группирует разреженные элементы в tf.sparse.SparseTensor.

enumerate_dataset(...): Преобразование, которое нумерует элементы набора данных. (устарело)

from_variant(...): Строит набор данных из указанного варианта и структуры.

get_next_as_optional(...): Возвращает tf.experimental.Optional с следующим элементом итератора. (устарело)

get_single_element(...): Возвращает единственный элемент в dataset как вложенную структуру тензоров.

get_structure(...): Возвращает сигнатуру типа для элементов входного набора данных/итератора.

group_by_reducer(...): Преобразование, которое группирует элементы и выполняет редукцию.

group_by_window(...): Преобразование, которое группирует окна элементов по ключу и выполняет их редукцию.

ignore_errors(...): Создаёт Dataset из другого Dataset и молча игнорирует любые ошибки.

latency_stats(...): Записывает задержку производства каждого элемента входного набора данных.

load(...): Загружает ранее сохранённый набор данных.

make_batched_features_dataset(...): Возвращает Dataset словарей признаков из Example протоколов.

make_csv_dataset(...): Читает CSV-файлы в набор данных.

make_saveable_from_iterator(...): Возвращает SaveableObject для сохранения/восстановления состояния итератора с помощью Saver. (устарело)

map_and_batch(...): Объединённая реализация map и batch. (устарело)

parallel_interleave(...): Параллельная версия преобразования Dataset.interleave(). (устарело)

parse_example_dataset(...): Преобразование, которое парсит Example протоколы в dict тензоров.

prefetch_to_device(...): Преобразование, которое предварительно загружает значения набора данных на указанный device.

rejection_resample(...): Преобразование, которое перевыбирает набор данных, чтобы достичь целевого распределения.

sample_from_datasets(...): Случайно выбирает элементы из наборов данных в datasets.

save(...): Сохраняет содержимое заданного набора данных.

scan(...): Преобразование, которое выполняет сканирование функции по входному набору данных.

shuffle_and_repeat(...): Перемешивает и повторяет набор данных, перемешивая при каждом повторении. (устарело)

snapshot(...): API для сохранения выходных данных входного набора данных.

take_while(...): Преобразование, которое останавливает итерацию набора данных на основе predicate.

to_variant(...): Возвращает вариант, представляющий данный набор данных.

unbatch(...): Разбивает элементы набора данных на несколько элементов по размеру пакета. (устарело)

unique(...): Создаёт Dataset из другого Dataset, отбрасывая дубликаты.