Spec-Zone.ru › TensorFlow

tf.raw_ops.UnicodeDecode

Декодирует каждую строку в input в последовательность кодовых точек Unicode.

Просмотреть псевдонимы

Псевдонимы совместимости для миграции

Подробнее см. в руководстве по миграции.

tf.compat.v1.raw_ops.UnicodeDecode

tf.raw_ops.UnicodeDecode(
    input,
    input_encoding,
    errors='replace',
    replacement_char=65533,
    replace_control_characters=False,
    Tsplits=tf.dtypes.int64,
    name=None
)

Кодовые точки символов для всех строк возвращаются в виде одного вектора char_values; строки разворачиваются в символы в порядке строк.

Тензор row_splits указывает, где начинаются и заканчиваются кодовые точки для каждой входной строки в тензоре char_values. В частности, значения для i-й строки (в порядке строк) хранятся в срезе [row_splits[i]:row_splits[i+1]]. Таким образом:

  • char_values[row_splits[i]+j] — это кодовая точка Unicode для j-го символа в i-й строке (в порядке строк).
  • row_splits[i+1] - row_splits[i] — это количество символов в i-й строке (в порядке строк).
Аргументы
input Tensor типа string. Текст для декодирования. Может иметь любую форму. Обратите внимание, что результат преобразуется в вектор значений символов.
input_encoding string. Кодировка текста входных строк. Это любая из кодировок, поддерживаемых алгоритмическими преобразователями ICU ucnv. Примеры: "UTF-16", "US ASCII", "UTF-8".
errors Необязательный string из: "strict", "replace", "ignore". По умолчанию — "replace". Политика обработки ошибок при обнаружении неправильного форматирования во входных данных. Значение 'strict' приведет к тому, что операция выдаст ошибку InvalidArgument при любом неправильном форматировании входных данных. Значение 'replace' (по умолчанию) приведет к тому, что операция заменит любое неправильное форматирование входных данных кодовой точкой replacement_char. Значение 'ignore' приведет к тому, что операция пропустит любое неправильное форматирование входных данных и не создаст соответствующий выходной символ.
replacement_char Необязательный int. По умолчанию — 65533. Кодовая точка символа замены, используемая вместо любого неправильного форматирования входных данных, когда errors='replace'. Можно использовать любую допустимую кодовую точку Unicode. Значение по умолчанию — стандартный символ замены Unicode: 0xFFFD или U+65533.)
replace_control_characters Необязательный bool. По умолчанию — False. Нужно ли заменять управляющие символы C0 (00–1F) на replacement_char. По умолчанию — false.
Tsplits Необязательный tf.DType из: tf.int32, tf.int64. По умолчанию — tf.int64.
name Имя операции (необязательно).
Возвращаемые значения
Кортеж из объектов Tensor (row_splits, char_values).
row_splits Tensor типа Tsplits.
char_values Tensor типа int32.

© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UnicodeDecode

Spec-Zone.ru

Настройки Оффлайн Что нового Помощь О нас
Spec-Zone .ru
спецификации, руководства, описания, API