tf.raw_ops.UnicodeDecode
Декодирует каждую строку в input в последовательность кодовых точек Юникода.
tf.raw_ops.UnicodeDecode(
input, input_encoding, errors='replace', replacement_char=65533,
replace_control_characters=False, Tsplits=tf.dtypes.int64, name=None
)
Кодовые точки символов для всех строк возвращаются с помощью одного вектора char_values, со строками, расширенными до символов в порядке строки.
Тензор row_splits указывает, где начинаются и заканчиваются кодовые точки для каждой входной строки в тензоре char_values. В частности, значения для i-й строки (в порядке строки) хранятся в срезе [row_splits[i]:row_splits[i+1]]. Таким образом:
-
char_values[row_splits[i]+j]— это кодовая точка Юникода дляj-го символа вi-й строке (в порядке строки). -
row_splits[i+1] - row_splits[i]— это количество символов вi-й строке (в порядке строки).
| Аргументы | |
|---|---|
input | A Tensor типа string. Текст для декодирования. Может иметь любую форму. Обратите внимание, что вывод сглаживается до вектора значений символов. |
input_encoding | A string. Кодировка текста входных строк. Это любая из кодировок, поддерживаемых алгоритмическими преобразователями ICU ucnv. Примеры: "UTF-16", "US ASCII", "UTF-8". |
errors | Необязательный string из: "strict", "replace", "ignore". По умолчанию "replace". Политика обработки ошибок при обнаружении неверного форматирования ввода. Значение 'strict' приведет к тому, что операция выдаст ошибку InvalidArgument при любом неверном форматировании ввода. Значение 'replace' (по умолчанию) приведет к тому, что операция заменит любое неверное форматирование ввода на replacement_char кодовую точку. Значение 'ignore' приведет к тому, что операция пропустит любое неверное форматирование ввода и не будет генерировать соответствующего символа вывода. |
replacement_char | Необязательная int. По умолчанию 65533. Кодовая точка символа замены, используемая вместо любого неверного форматирования ввода, когда errors='replace'. Можно использовать любую допустимую кодовую точку Юникода. Значение по умолчанию — это символ замены Юникода по умолчанию 0xFFFD или U+65533.) |
replace_control_characters | Необязательный bool. По умолчанию False. Нужно ли заменять управляющие символы C0 (00-1F) на replacement_char. По умолчанию — ложь. |
Tsplits | Необязательный tf.DType из: tf.int32, tf.int64. По умолчанию tf.int64. |
name | Имя операции (необязательно). |
| Возвращаемые значения | |
|---|---|
Кортеж объектов Tensor (row_splits, char_values). | |
row_splits | A Tensor типа Tsplits. |
char_values | A Tensor типа int32. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/raw_ops/UnicodeDecode