tf.strings.unicode_decode
| Просмотреть исходный код на GitHub |
Декодирует каждую строку в input в последовательность кодовых точек Юникода.
tf.strings.unicode_decode(
input, input_encoding, errors='replace', replacement_char=65533,
replace_control_characters=False, name=None
)
result[i1...iN, j] — это кодовая точка Юникода для j-го символа в input[i1...iN], при декодировании с помощью input_encoding.
| Аргументы | |
|---|---|
input | Многомерный, потенциально разрозненный тензор N с формой [D1...DN]. N должна быть статически известна. |
input_encoding | Имя строки для кодирования Юникода, которое следует использовать для декодирования каждой строки. |
errors | Указывает ответ, когда строку-вход невозможно преобразовать с использованием указанного кодирования. Один из:
|
replacement_char | Кодовая точка замены, которая будет использоваться вместо недопустимых подстрок в input при errors='replace'; и вместо управляющих символов C0 в input при replace_control_characters=True. |
replace_control_characters | Нужно ли заменить управляющие символы C0 (U+0000 - U+001F) на replacement_char? |
name | Имя операции (необязательно). |
| Возвращает | |
|---|---|
Многомерный тензор int32 с формой [D1...DN, (num_chars)]. Возвращаемый тензор является tf.Tensor, если input является скалярным, или tf.RaggedTensor в противном случае. |
Пример:
input = [s.encode('utf8') for s in (u'G\xf6\xf6dnight', u'\U0001f60a')]
tf.strings.unicode_decode(input, 'UTF-8').to_list()
[[71, 246, 246, 100, 110, 105, 103, 104, 116], [128522]]
© 2020 The TensorFlow Authors. All rights reserved.
Licensed under the Creative Commons Attribution License 3.0.
Code samples licensed under the Apache 2.0 License.
https://www.tensorflow.org/versions/r2.4/api_docs/python/tf/strings/unicode_decode