класс Ripper
Ripper — это парсер сценариев Ruby.
Вы можете получить информацию от парсера в стиле событий. Информация, такая как деревья абстрактного синтаксиса или простой лексический анализ программы Ruby.
Использование
Ripper предоставляет простой интерфейс для парсинга вашей программы в дерево выражений в символической форме (или S-выражение).
Понимание выходных данных парсера может быть сложным, рекомендуется использовать PP для форматирования вывода для улучшения читаемости.
require 'ripper'
require 'pp'
pp Ripper.sexp('def hello(world) "Hello, #{world}!"; end')
#=> [:program,
[[:def,
[:@ident, "hello", [1, 4]],
[:paren,
[:params, [[:@ident, "world", [1, 10]]], nil, nil, nil, nil, nil, nil]],
[:bodystmt,
[[:string_literal,
[:string_content,
[:@tstring_content, "Hello, ", [1, 18]],
[:string_embexpr, [[:var_ref, [:@ident, "world", [1, 27]]]]],
[:@tstring_content, "!", [1, 33]]]]],
nil,
nil,
nil]]]] Как видно в примере выше, выражение начинается с :program.
Отсюда идёт определение метода в :def, за которым следует идентификатор метода :@ident. После идентификатора метода идут скобки :paren и параметры метода в :params.
Далее идёт тело метода, начиная с :bodystmt (stmt означающий оператор), содержащий полное определение метода.
В нашем случае мы просто возвращаем String, поэтому далее следует выражение :string_literal.
В нашем :string_literal вы заметите два @tstring_content, это литеральная часть для Hello, и !. Между двумя @tstring_content операторами находится :string_embexpr, где embexpr — встроенное выражение. Наше выражение состоит из локальной переменной или var_ref, с идентификатором (@ident) world.
Ресурсы
Требования
-
ruby 1.9 (поддержка только CVS HEAD)
-
bison 1.28 или новее (другие yaccs не работают)
Лицензия
Лицензия Ruby.
-
Minero Aoki
-
aamine@loveruby.net
Константы
- EVENTS
-
Этот массив содержит имена всех событий ripper.
- PARSER_EVENTS
-
Этот массив содержит имена событий парсера.
- SCANNER_EVENTS
-
Этот массив содержит имена событий сканера.
- Version
-
версия
Ripper
Публичные методы класса
static VALUE
parser_dedent_string(VALUE self, VALUE input, VALUE width)
{
int wid, col;
StringValue(input);
wid = NUM2UINT(width);
col = dedent_string(input, wid);
return INT2NUM(col);
} ИСПОЛЬЗОВАНИЕ БИБЛИОТЕКИ RIPPER ТОЛЬКО.
Удаляет до width начальных пробелов из input, и возвращает ширину столбца после удаления пробелов.
# File ext/ripper/lib/ripper/lexer.rb, line 51 def Ripper.lex(src, filename = '-', lineno = 1, **kw) Lexer.new(src, filename, lineno).lex(**kw) end
Токенизирует программу Ruby и возвращает массив массивов, отформатированных как [[lineno, column], type, token, state]. Аргумент filename в основном игнорируется. По умолчанию этот метод не обрабатывает синтаксические ошибки в src, используйте ключевое слово raise_errors для поднятия исключения SyntaxError при ошибке в src.
require 'ripper'
require 'pp'
pp Ripper.lex("def m(a) nil end")
#=> [[[1, 0], :on_kw, "def", FNAME ],
[[1, 3], :on_sp, " ", FNAME ],
[[1, 4], :on_ident, "m", ENDFN ],
[[1, 5], :on_lparen, "(", BEG|LABEL],
[[1, 6], :on_ident, "a", ARG ],
[[1, 7], :on_rparen, ")", ENDFN ],
[[1, 8], :on_sp, " ", BEG ],
[[1, 9], :on_kw, "nil", END ],
[[1, 12], :on_sp, " ", END ],
[[1, 13], :on_kw, "end", END ]] static VALUE
ripper_lex_state_name(VALUE self, VALUE state)
{
return rb_parser_lex_state_name(NUM2INT(state));
} Возвращает строковое представление lex_state.
static VALUE
ripper_initialize(int argc, VALUE *argv, VALUE self)
{
struct parser_params *p;
VALUE src, fname, lineno;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
rb_scan_args(argc, argv, "12", &src, &fname, &lineno);
if (RB_TYPE_P(src, T_FILE)) {
p->lex.gets = ripper_lex_io_get;
}
else if (rb_respond_to(src, id_gets)) {
p->lex.gets = ripper_lex_get_generic;
}
else {
StringValue(src);
p->lex.gets = lex_get_str;
}
p->lex.input = src;
p->eofp = 0;
if (NIL_P(fname)) {
fname = STR_NEW2("(ripper)");
OBJ_FREEZE(fname);
}
else {
StringValueCStr(fname);
fname = rb_str_new_frozen(fname);
}
parser_initialize(p);
p->ruby_sourcefile_string = fname;
p->ruby_sourcefile = RSTRING_PTR(fname);
p->ruby_sourceline = NIL_P(lineno) ? 0 : NUM2INT(lineno) - 1;
return Qnil;
} Создаёт новый объект Ripper. src должен быть строкой String, потоком ввода IO или объектом Object, имеющим метод gets.
Этот метод не начинает парсинг. См. также Ripper#parse и Ripper.parse.
# File ext/ripper/lib/ripper/sexp.rb, line 35
def Ripper.sexp(src, filename = '-', lineno = 1, raise_errors: false)
builder = SexpBuilderPP.new(src, filename, lineno)
sexp = builder.parse
if builder.error?
if raise_errors
raise SyntaxError, builder.error
end
else
sexp
end
end - ЭКСПЕРИМЕНТАЛЬНО
-
Парсит
srcи создаёт дерево S-exp. Возвращает более читаемое дерево, чемRipper.sexp_raw. Этот метод предназначен в основном для разработчиков. Аргументfilenameв основном игнорируется. По умолчанию этот метод не обрабатывает синтаксические ошибки вsrc, возвращаяnilв таких случаях. Используйте ключевое словоraise_errorsдля поднятия исключенияSyntaxErrorпри ошибке вsrc.require 'ripper' require 'pp' pp Ripper.sexp("def m(a) nil end") #=> [:program, [[:def, [:@ident, "m", [1, 4]], [:paren, [:params, [[:@ident, "a", [1, 6]]], nil, nil, nil, nil, nil, nil]], [:bodystmt, [[:var_ref, [:@kw, "nil", [1, 9]]]], nil, nil, nil]]]]
# File ext/ripper/lib/ripper/sexp.rb, line 71
def Ripper.sexp_raw(src, filename = '-', lineno = 1, raise_errors: false)
builder = SexpBuilder.new(src, filename, lineno)
sexp = builder.parse
if builder.error?
if raise_errors
raise SyntaxError, builder.error
end
else
sexp
end
end - ЭКСПЕРИМЕНТАЛЬНО
-
Парсит
srcи создаёт дерево S-exp. Этот метод предназначен в основном для разработчиков. Аргументfilenameв основном игнорируется. По умолчанию этот метод не обрабатывает синтаксические ошибки вsrc, возвращаяnilв таких случаях. Используйте ключевое словоraise_errorsдля поднятия исключенияSyntaxErrorпри ошибке вsrc.require 'ripper' require 'pp' pp Ripper.sexp_raw("def m(a) nil end") #=> [:program, [:stmts_add, [:stmts_new], [:def, [:@ident, "m", [1, 4]], [:paren, [:params, [[:@ident, "a", [1, 6]]], nil, nil, nil]], [:bodystmt, [:stmts_add, [:stmts_new], [:var_ref, [:@kw, "nil", [1, 9]]]], nil, nil, nil]]]]
# File ext/ripper/lib/ripper/lexer.rb, line 270 def Ripper.slice(src, pattern, n = 0) if m = token_match(src, pattern) then m.string(n) else nil end end
- ЭКСПЕРИМЕНТАЛЬНО
-
Парсит
srcи возвращает строку, которая соответствовалаpattern.patternдолжно быть описано какRegexp.require 'ripper' p Ripper.slice('def m(a) nil end', 'ident') #=> "m" p Ripper.slice('def m(a) nil end', '[ident lparen rparen]+') #=> "m(a)" p Ripper.slice("<<EOS\nstring\nEOS", 'heredoc_beg nl $(tstring_content*) heredoc_end', 1) #=> "string\n"
# File ext/ripper/lib/ripper/lexer.rb, line 25 def Ripper.tokenize(src, filename = '-', lineno = 1, **kw) Lexer.new(src, filename, lineno).tokenize(**kw) end
Токенизирует программу Ruby и возвращает массив строк. Аргументы filename и lineno в основном игнорируются, так как возвращаемое значение — это просто токенизированный вход. По умолчанию этот метод не обрабатывает синтаксические ошибки в src, используйте ключевое слово raise_errors для поднятия исключения SyntaxError при ошибке в src.
p Ripper.tokenize("def m(a) nil end")
# => ["def", " ", "m", "(", "a", ")", " ", "nil", " ", "end"]
Публичные методы экземпляров
static VALUE
ripper_column(VALUE self)
{
struct parser_params *p;
long col;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
if (NIL_P(p->parsing_thread)) return Qnil;
col = p->lex.ptok - p->lex.pbeg;
return LONG2NUM(col);
} Возвращает номер столбца текущей строки разбора. Номер начинается с 0.
VALUE
rb_parser_get_debug_output(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
return p->debug_output;
} Получить отладочный вывод.
VALUE
rb_parser_set_debug_output(VALUE self, VALUE output)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
return p->debug_output = output;
} Set отладочный вывод.
VALUE
rb_parser_encoding(VALUE vparser)
{
struct parser_params *p;
TypedData_Get_Struct(vparser, struct parser_params, &parser_data_type, p);
return rb_enc_from_encoding(p->enc);
} Возвращает кодировку источника.
VALUE
rb_parser_end_seen_p(VALUE vparser)
{
struct parser_params *p;
TypedData_Get_Struct(vparser, struct parser_params, &parser_data_type, p);
return RBOOL(p->ruby__end__seen);
} Возвращает true, если анализируемый источник завершается +_END_+.
static VALUE
ripper_error_p(VALUE vparser)
{
struct parser_params *p;
TypedData_Get_Struct(vparser, struct parser_params, &parser_data_type, p);
return RBOOL(p->error_p);
} Возвращает true, если в анализируемом источнике есть ошибки.
static VALUE
ripper_filename(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
return p->ruby_sourcefile_string;
} Возвращает имя текущего файла разбора.
static VALUE
ripper_lineno(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
if (NIL_P(p->parsing_thread)) return Qnil;
return INT2NUM(p->ruby_sourceline);
} Возвращает номер строки текущей строки разбора. Номер начинается с 1.
static VALUE
ripper_parse(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
if (!NIL_P(p->parsing_thread)) {
if (p->parsing_thread == rb_thread_current())
rb_raise(rb_eArgError, "Ripper#parse is not reentrant");
else
rb_raise(rb_eArgError, "Ripper#parse is not multithread-safe");
}
p->parsing_thread = rb_thread_current();
rb_ensure(ripper_parse0, self, ripper_ensure, self);
return p->result;
} Начинает разбор и возвращает значение корневого действия.
static VALUE
ripper_state(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
if (NIL_P(p->parsing_thread)) return Qnil;
return INT2NUM(p->lex.state);
} Возвращает состояние сканера текущего токена.
static VALUE
ripper_token(VALUE self)
{
struct parser_params *p;
long pos, len;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
if (!ripper_initialized_p(p)) {
rb_raise(rb_eArgError, "method called for uninitialized object");
}
if (NIL_P(p->parsing_thread)) return Qnil;
pos = p->lex.ptok - p->lex.pbeg;
len = p->lex.pcur - p->lex.ptok;
return rb_str_subseq(p->lex.lastline, pos, len);
} Возвращает строку текущего токена.
VALUE
rb_parser_get_yydebug(VALUE self)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
return RBOOL(p->debug);
} Получить yydebug.
VALUE
rb_parser_set_yydebug(VALUE self, VALUE flag)
{
struct parser_params *p;
TypedData_Get_Struct(self, struct parser_params, &parser_data_type, p);
p->debug = RTEST(flag);
return flag;
} Set yydebug.
Приватные методы экземпляров
# File ext/ripper/lib/ripper/core.rb, line 63 def compile_error(msg) end
Этот метод вызывается, когда парсер обнаружил синтаксическую ошибку.
static VALUE
parser_dedent_string(VALUE self, VALUE input, VALUE width)
{
int wid, col;
StringValue(input);
wid = NUM2UINT(width);
col = dedent_string(input, wid);
return INT2NUM(col);
} ИСПОЛЬЗОВАНИЕ ТОЛЬКО БИБЛИОТЕКИ RIPPER.
Удаляет до width начальных пробелов из input, и возвращает ширину удаленных пробелов.
# File ext/ripper/lib/ripper/core.rb, line 54 def warn(fmt, *args) end
Этот метод вызывается, когда парсер генерирует слабое предупреждение. fmt и args имеют формат printf.
# File ext/ripper/lib/ripper/core.rb, line 59 def warning(fmt, *args) end
Этот метод вызывается, когда парсер генерирует сильное предупреждение. fmt и args имеют формат printf.
Ruby Core © 1993–2022 Yukihiro Matsumoto
Licensed under the Ruby License.
Ruby Standard Library © contributors
Licensed under their own licenses.