token — Константы, используемые с Python-разборами деревьев

Исходный код: Lib/token.py

Этот модуль предоставляет константы, представляющие числовые значения узлов-листьев дерева разбора (терминальные токены). Обратитесь к файлу Grammar/Grammar в дистрибутиве Python для определения имен в контексте грамматики языка. Конкретные числовые значения, которым соответствуют имена, могут меняться между версиями Python.

Модуль также предоставляет отображение числовых кодов в имена и некоторые функции. Функции отражают определения в заголовочных файлах Python C.

token.tok_name: Словарь, сопоставляющий числовые значения констант, определённых в этом модуле, с именованными строками, что позволяет генерировать более удобочитаемые представления деревьев разбора.

token.ISTERMINAL(x): Возвращает True для значений токенов-терминалов.

token.ISNONTERMINAL(x): Возвращает True для значений токенов-нетерминалов.

token.ISEOF(x): Возвращает True, если x — маркер, указывающий на конец входных данных.

Константы токенов:

token.ENDMARKER
token.NAME
token.NUMBER
token.STRING
token.NEWLINE
token.INDENT
token.DEDENT
token.LPAR
token.RPAR
token.LSQB
token.RSQB
token.COLON
token.COMMA
token.SEMI
token.PLUS
token.MINUS
token.STAR
token.SLASH
token.VBAR
token.AMPER
token.LESS
token.GREATER
token.EQUAL
token.DOT
token.PERCENT
token.LBRACE
token.RBRACE
token.EQEQUAL
token.NOTEQUAL
token.LESSEQUAL
token.GREATEREQUAL
token.TILDE
token.CIRCUMFLEX
token.LEFTSHIFT
token.RIGHTSHIFT
token.DOUBLESTAR
token.PLUSEQUAL
token.MINEQUAL
token.STAREQUAL
token.SLASHEQUAL
token.PERCENTEQUAL
token.AMPEREQUAL
token.VBAREQUAL
token.CIRCUMFLEXEQUAL
token.LEFTSHIFTEQUAL
token.RIGHTSHIFTEQUAL
token.DOUBLESTAREQUAL
token.DOUBLESLASH
token.DOUBLESLASHEQUAL
token.AT
token.ATEQUAL
token.RARROW
token.ELLIPSIS
token.OP
token.AWAIT
token.ASYNC
token.ERRORTOKEN
token.N_TOKENS
token.NT_OFFSET: Изменено в версии 3.5: Добавлены токены AWAIT и ASYNC. Начиная с Python 3.7, «async» и «await» будут токенизированы как токены NAME, а AWAIT и ASYNC будут удалены.