tf.strings.unicode_decode
| Просмотреть исходный код на GitHub |
Декодирует каждую строку в input в последовательность кодовых точек Юникода.
tf.strings.unicode_decode(
input,
input_encoding,
errors='replace',
replacement_char=65533,
replace_control_characters=False,
name=None
)
result[i1...iN, j] — это кодовая точка Юникода для j символа в input[i1...iN], при декодировании с использованием input_encoding.
| Аргументы | |
|---|---|
input | Массив с размерностью N потенциально разрывной string тензор с формой [D1...DN]. N должна быть статически известна. |
input_encoding | Имя строки для кодирования Юникода, которое должно быть использовано для декодирования каждой строки. |
errors | Определяет реакцию, когда строка ввода не может быть преобразована с помощью указанного кодирования. Один из:
|
replacement_char | Кодовая точка замены, которая должна быть использована вместо некорректных подстрок в input при errors='replace'; и вместо управляющих символов C0 в input при replace_control_characters=True. |
replace_control_characters | Нужно ли заменить управляющие символы C0 (U+0000 - U+001F) на replacement_char. |
name | Имя операции (необязательно). |
| Возвращаемое значение | |
|---|---|
N+1 размерный int32 тензор с формой [D1...DN, (num_chars)]. Возвращаемый тензор является tf.Tensor, если input является скаляром, или tf.RaggedTensor в противном случае. |
Пример:
input = [s.encode('utf8') for s in (u'G\xf6\xf6dnight', u'\U0001f60a')]
tf.strings.unicode_decode(input, 'UTF-8').to_list()
[[71, 246, 246, 100, 110, 105, 103, 104, 116], [128522]]
© 2022 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 4.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.9/api_docs/python/tf/strings/unicode_decode