tf.data.experimental.TFRecordWriter

Записывает данные в файл TFRecord.

tf.data.experimental.TFRecordWriter(
    filename, compression_type=None
)

Для записи dataset в один файл TFRecord:

dataset = ... # dataset to be written
writer = tf.data.experimental.TFRecordWriter(PATH)
writer.write(dataset)

Для фрагментации dataset по нескольким файлам TFRecord:

dataset = ... # dataset to be written

def reduce_func(key, dataset):
  filename = tf.strings.join([PATH_PREFIX, tf.strings.as_string(key)])
  writer = tf.data.experimental.TFRecordWriter(filename)
  writer.write(dataset.map(lambda _, x: x))
  return tf.data.Dataset.from_tensors(filename)

dataset = dataset.enumerate()
dataset = dataset.apply(tf.data.experimental.group_by_window(
  lambda i, _: i % NUM_SHARDS, reduce_func, tf.int64.max
))

Методы

write

Просмотреть исходный код

write(
    dataset
)

Возвращает tf.Operation для записи набора данных в файл.