tf.raw_ops.UnicodeDecode
Декодирует каждую строку в input в последовательность кодов Юникода.
tf.raw_ops.UnicodeDecode(
input,
input_encoding,
errors='replace',
replacement_char=65533,
replace_control_characters=False,
Tsplits=tf.dtypes.int64,
name=None
)
Коды символов для всех строк возвращаются с помощью одного вектора char_values, где строки расширяются до символов в порядке следования строк.
Тензор row_splits указывает, где начинаются и заканчиваются коды символов для каждой входной строки в тензоре char_values. В частности, значения для i-й строки (в порядке следования строк) хранятся в срезе [row_splits[i]:row_splits[i+1]]. Таким образом:
-
char_values[row_splits[i]+j]— это код Юникода дляj-го символа вi-й строке (в порядке следования строк). -
row_splits[i+1] - row_splits[i]— это количество символов вi-й строке (в порядке следования строк).
| Аргументы | |
|---|---|
input | A Tensor типа string. Текст для декодирования. Может иметь любую форму. Обратите внимание, что вывод сжат в вектор значений символов. |
input_encoding | A string. Кодировка текста входных строк. Это любая из кодировок, поддерживаемых алгоритмическими преобразователями ICU ucnv. Примеры: "UTF-16", "US ASCII", "UTF-8". |
errors | Необязательный string из: "strict", "replace", "ignore". По умолчанию "replace". Стратегия обработки ошибок при обнаружении некорректного форматирования на входе. Значение 'strict' приведет к тому, что операция вернёт ошибку InvalidArgument при любом некорректном форматировании на входе. Значение 'replace' (по умолчанию) приведет к тому, что операция заменит любое некорректное форматирование на входе кодом символа replacement_char. Значение 'ignore' приведет к тому, что операция пропустит любое некорректное форматирование на входе и не будет генерировать соответствующий выходной символ. |
replacement_char | Необязательный int. По умолчанию 65533. Код символа-замены, который будет использоваться вместо любого некорректного форматирования на входе, когда errors='replace'. Можно использовать любой допустимый код Юникода. Значение по умолчанию — код символа-замены по умолчанию Юникода - 0xFFFD или U+65533.) |
replace_control_characters | Необязательный bool. По умолчанию False. Нужно ли заменять управляющие символы C0 (00-1F) на replacement_char. По умолчанию false. |
Tsplits | Необязательный tf.DType из: tf.int32, tf.int64. По умолчанию tf.int64. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
Кортеж объектов Tensor (row_splits, char_values). | |
row_splits | A Tensor типа Tsplits. |
char_values | A Tensor типа int32. |
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/raw_ops/UnicodeDecode