Модуль: tf.data.experimental
Экспериментальный API для построения конвейеров ввода данных.
Этот модуль содержит экспериментальные Dataset источники и преобразования, которые могут использоваться совместно с API tf.data.Dataset. Обратите внимание, что API tf.data.experimental не подразумевает таких же гарантий обратной совместимости, как и tf.data, но мы предоставим рекомендации по устареванию до удаления существующей функциональности.
См. Импорт данных для общего обзора.
Модули
service модуль: Экспериментальный API для использования сервиса tf.data.
Классы
class AutoShardPolicy: Представляет тип автофрагментации, которую мы активируем.
class CheckpointInputPipelineHook: Создаёт контрольные точки состояния конвейера ввода данных каждые N шагов или секунд.
class CsvDataset: Набор данных, содержащий строки из одного или нескольких CSV-файлов.
class DistributeOptions: Представляет параметры для распределённой обработки данных.
class MapVectorizationOptions: Представляет параметры для оптимизации MapVectorization.
class OptimizationOptions: Представляет параметры для оптимизаций набора данных.
class Optional: Представляет значение, которое может или не может присутствовать.
class RandomDataset: Dataset псевдослучайных значений.
class Reducer: Редуктор используется для сокращения набора элементов.
class SqlDataset: Dataset , состоящий из результатов запроса SQL.
class StatsAggregator: Состоятельный ресурс, который агрегирует статистику из одного или нескольких итераторов.
class StatsOptions: Представляет параметры для сбора статистики набора данных с использованием StatsAggregator.
class TFRecordWriter: Записывает набор данных в файл TFRecord.
class ThreadingOptions: Представляет параметры для потоковой обработки набора данных.
Функции
Counter(...): Создаёт Dataset, который считает от start с шагом step.
assert_cardinality(...): Проверяет мощность входного набора данных.
bucket_by_sequence_length(...): Преобразование, которое группирует элементы в Dataset по длине.
bytes_produced_stats(...): Записывает количество байтов, произведённых каждым элементом входного набора данных.
cardinality(...): Возвращает мощность dataset, если она известна.
choose_from_datasets(...): Создаёт набор данных, который детерминированно выбирает элементы из datasets.
copy_to_device(...): Преобразование, которое копирует элементы набора данных на указанный target_device.
dense_to_ragged_batch(...): Преобразование, которое группирует фрагментированные элементы в tf.RaggedTensor.
dense_to_sparse_batch(...): Преобразование, которое группирует фрагментированные элементы в tf.sparse.SparseTensor.
enumerate_dataset(...): Преобразование, которое нумерует элементы набора данных. (устарело)
from_variant(...): Создаёт набор данных из указанного варианта и структуры.
get_next_as_optional(...): Возвращает tf.experimental.Optional с следующим элементом итератора. (устарело)
get_single_element(...): Возвращает единственный элемент в dataset как вложенную структуру тензоров.
get_structure(...): Возвращает подпись типа для элементов входного набора данных/итератора.
group_by_reducer(...): Преобразование, которое группирует элементы и выполняет сокращение.
group_by_window(...): Преобразование, которое группирует окна элементов по ключу и сокращает их.
ignore_errors(...): Создаёт Dataset из другого Dataset и безмолвно игнорирует любые ошибки.
latency_stats(...): Записывает время ожидания производства каждого элемента входного набора данных.
load(...): Загружает ранее сохранённый набор данных.
make_batched_features_dataset(...): Возвращает Dataset словарей признаков из Example протоколов.
make_csv_dataset(...): Читает CSV-файлы в набор данных.
make_saveable_from_iterator(...): Возвращает SaveableObject для сохранения/восстановления состояния итератора с помощью Saver. (устарело)
map_and_batch(...): Объединённая реализация map и batch. (устарело)
parallel_interleave(...): Параллельная версия преобразования Dataset.interleave(). (устарело)
parse_example_dataset(...): Преобразование, которое парсит Example протоколы в dict тензоров.
prefetch_to_device(...): Преобразование, которое предварительно загружает значения набора данных в указанный device.
rejection_resample(...): Преобразование, которое пересэмплирует набор данных для достижения целевого распределения.
sample_from_datasets(...): Выбирает элементы случайным образом из наборов данных в datasets.
save(...): Сохраняет содержимое заданного набора данных.
scan(...): Преобразование, которое сканирует функцию по входному набору данных.
shuffle_and_repeat(...): Перемешивает и повторяет набор данных, перемешивая при каждом повторении. (устарело)
snapshot(...): API для сохранения выходных данных входного набора данных.
take_while(...): Преобразование, которое останавливает итерацию набора данных на основе predicate.
to_variant(...): Возвращает вариант, представляющий данный набор данных.
unbatch(...): Разбивает элементы набора данных на несколько элементов по размеру пакета. (устарело)
unique(...): Создаёт Dataset из другого Dataset, удаляя дубликаты.
Другие члены
-
AUTOTUNE = -1 -
INFINITE_CARDINALITY = -1 -
UNKNOWN_CARDINALITY = -2
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/data/experimental