tf.raw_ops.UnicodeDecode
Декодирует каждую строку в input в последовательность кодов Юникода.
tf.raw_ops.UnicodeDecode(
input, input_encoding, errors='replace', replacement_char=65533,
replace_control_characters=False, Tsplits=tf.dtypes.int64, name=None
)
Коды символов для всех строк возвращаются с помощью одного вектора char_values, при этом строки расширяются до символов в порядке следования строк.
Тензор row_splits указывает, где начинаются и заканчиваются коды символов для каждой входной строки в тензоре char_values. В частности, значения для i-й строки (в порядке следования строк) хранятся в срезе [row_splits[i]:row_splits[i+1]]. Таким образом:
-
char_values[row_splits[i]+j]является кодом Юникодаj-го символа вi-й строке (в порядке следования строк). -
row_splits[i+1] - row_splits[i]является числом символов вi-й строке (в порядке следования строк).
| Аргументы | |
|---|---|
input | Tensor типа string. Текст для декодирования. Может иметь любую форму. Обратите внимание, что выходной сигнал сжат в вектор значений символов. |
input_encoding | string. Кодировка текста входных строк. Это любая из кодировок, поддерживаемых алгоритмическими преобразователями ICU ucnv. Примеры: "UTF-16", "US ASCII", "UTF-8". |
errors | Необязательный string из: "strict", "replace", "ignore". По умолчанию "replace". Политика обработки ошибок, когда в входе обнаружен неверный формат. Значение 'strict' приведет к тому, что операция выдаст ошибку InvalidArgument при любом неверном формате ввода. Значение 'replace' (по умолчанию) приведет к тому, что операция заменит любой неверный формат ввода на replacement_char код символа. Значение 'ignore' приведет к тому, что операция пропустит любой неверный формат ввода и не выведет соответствующий символ. |
replacement_char | Необязательный int. По умолчанию 65533. Код замены символа, который будет использоваться вместо любого неверного формата ввода, когда errors='replace'. Можно использовать любой допустимый код Юникода. Значение по умолчанию — символ замены Юникода по умолчанию — 0xFFFD или U+65533.) |
replace_control_characters | Необязательный bool. По умолчанию False. Нужно ли заменять управляющие символы C0 (00-1F) на replacement_char. По умолчанию — ложь. |
Tsplits | Необязательный tf.DType из: tf.int32, tf.int64. По умолчанию tf.int64. |
name | Имя операции (необязательно). |
| Возвращаемые значения | |
|---|---|
Кортеж из объектов Tensor (row_splits, char_values). | |
row_splits | Tensor типа Tsplits. |
char_values | Tensor типа int32. |
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.3/api_docs/python/tf/raw_ops/UnicodeDecode