tf.raw_ops.UnicodeDecode
Декодирует каждую строку в input в последовательность кодовых точек Unicode.
tf.raw_ops.UnicodeDecode(
input,
input_encoding,
errors='replace',
replacement_char=65533,
replace_control_characters=False,
Tsplits=tf.dtypes.int64,
name=None
)
Кодовые точки символов для всех строк возвращаются в виде одного вектора char_values; строки разворачиваются в символы в порядке строк.
Тензор row_splits указывает, где начинаются и заканчиваются кодовые точки для каждой входной строки в тензоре char_values. В частности, значения для i-й строки (в порядке строк) хранятся в срезе [row_splits[i]:row_splits[i+1]]. Таким образом:
-
char_values[row_splits[i]+j]— это кодовая точка Unicode дляj-го символа вi-й строке (в порядке строк). -
row_splits[i+1] - row_splits[i]— это количество символов вi-й строке (в порядке строк).
| Аргументы | |
|---|---|
input | Tensor типа string. Текст для декодирования. Может иметь любую форму. Обратите внимание, что результат преобразуется в вектор значений символов. |
input_encoding | string. Кодировка текста входных строк. Это любая из кодировок, поддерживаемых алгоритмическими преобразователями ICU ucnv. Примеры: "UTF-16", "US ASCII", "UTF-8". |
errors | Необязательный string из: "strict", "replace", "ignore". По умолчанию — "replace". Политика обработки ошибок при обнаружении неправильного форматирования во входных данных. Значение 'strict' приведет к тому, что операция выдаст ошибку InvalidArgument при любом неправильном форматировании входных данных. Значение 'replace' (по умолчанию) приведет к тому, что операция заменит любое неправильное форматирование входных данных кодовой точкой replacement_char. Значение 'ignore' приведет к тому, что операция пропустит любое неправильное форматирование входных данных и не создаст соответствующий выходной символ. |
replacement_char | Необязательный int. По умолчанию — 65533. Кодовая точка символа замены, используемая вместо любого неправильного форматирования входных данных, когда errors='replace'. Можно использовать любую допустимую кодовую точку Unicode. Значение по умолчанию — стандартный символ замены Unicode: 0xFFFD или U+65533.) |
replace_control_characters | Необязательный bool. По умолчанию — False. Нужно ли заменять управляющие символы C0 (00–1F) на replacement_char. По умолчанию — false. |
Tsplits | Необязательный tf.DType из: tf.int32, tf.int64. По умолчанию — tf.int64. |
name | Имя операции (необязательно). |
| Возвращаемые значения | |
|---|---|
Кортеж из объектов Tensor (row_splits, char_values). | |
row_splits | Tensor типа Tsplits. |
char_values | Tensor типа int32. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/api_docs/python/tf/raw_ops/UnicodeDecode