tf.feature_column.categorical_column_with_vocabulary_file

Столбец CategoricalColumn с файлом словаря.

tf.feature_column.categorical_column_with_vocabulary_file(
    key,
    vocabulary_file,
    vocabulary_size=None,
    dtype=tf.dtypes.string,
    default_value=None,
    num_oov_buckets=0,
    file_format=None
)

Используйте этот столбец, когда ваши входные данные представлены в строчном или целочисленном формате, и у вас есть файл словаря, который сопоставляет каждое значение целочисленному идентификатору. По умолчанию значения, отсутствующие в словаре, игнорируются. Используйте либо (но не оба) num_oov_buckets и default_value, чтобы указать, как обрабатывать значения, отсутствующие в словаре.

Для входного словаря features, features[key] является либо Tensor, либо SparseTensor. Если Tensor, пропущенные значения могут быть представлены как -1 для целых чисел и '' для строк, которые будут отброшены этим столбцом признаков.

Пример с num_oov_buckets: Файл '/us/states.txt' содержит 50 строк, каждая из которых содержит двухсимвольный код штата США. Все входные значения, присутствующие в этом файле, получают идентификатор от 0 до 49, соответствующий номеру строки. Все остальные значения хешируются и получают идентификатор от 50 до 54.

states = categorical_column_with_vocabulary_file(
    key='states', vocabulary_file='/us/states.txt', vocabulary_size=50,
    num_oov_buckets=5)
columns = [states, ...]
features = tf.io.parse_example(..., features=make_parse_example_spec(columns))
linear_prediction = linear_model(features, columns)

Пример с default_value: Файл '/us/states.txt' содержит 51 строку - первая строка - 'XX', а остальные 50 содержат двухсимвольный код штата США. Как буквальное 'XX' в вводе, так и другие значения, отсутствующие в файле, получат идентификатор 0. Все остальные значения получают соответствующий номер строки от 1 до 50.

states = categorical_column_with_vocabulary_file(
    key='states', vocabulary_file='/us/states.txt', vocabulary_size=51,
    default_value=0)
columns = [states, ...]
features = tf.io.parse_example(..., features=make_parse_example_spec(columns))
linear_prediction, _, _ = linear_model(features, columns)

И для создания встраивания, используя любой из них:

columns = [embedding_column(states, 3),...]
features = tf.io.parse_example(..., features=make_parse_example_spec(columns))
dense_tensor = input_layer(features, columns)