将ANTLR解析规则映射到自定义Java AST类以生成代码

我似乎正在苦于AST-> StringTemplate方面的事情,可能是因为我是通过手动编写解析器 - > LLVM。

我在寻找的是一种将解析规则自动匹配到可以表示它的AST类并包含生成目标语言输出的方法的方法。 (在这种情况下可能使用StringTemplate。)

在伪代码中,给出这个例子语法:

numberExpression
    : DIGIT+
    ;

我想要它映射到这个AST类:

class NumberExpressionAST extends BaseAST {
    private double value;

    public NumberExpressionAST(node) {
        this.value = node.value;
    }

    public String generateCode() {
        // However we want to generate the output.
        // Maybe use a template, maybe string literals, maybe cure cancer...whatever.
    }
}

为了配合他们,也许会有像下面这样的胶水:(或者你可以用Class.forName东西疯狂)

switch (child.ruleName) {
    case 'numberExpression':
        return new NumberExpressionAST(child);
        break;
}

我一直在浏览网页,并发现在语法中使用->分析重写规则,但我似乎无法弄清楚如何将所有这些逻辑放在语法之外。 尤其是用于设置和从模板生成目标输出的代码。 我可以多次走树。

我想也许我可以使用选项output=AST ,然后可能提供我自己从CommonTree扩展的AST类? 我承认,我对ANTLR的把握是非常原始的,所以请原谅我的无知。 我遵循的每个教程都展示了如何将所有这些内容与语法结合在一起,这对我来说是完全疯狂且难以维护的。

有人可以指出我实现类似的方式吗?

目标:保持AST / codegen / template逻辑脱离语法。

编辑---------------------------------------------

我使用了ANTLR的实际源代码(因为他们使用自己),我看到类似的东西,如BlockASTRuleAST等都继承自CommonTree 。 我还没有弄清楚重要的部分......他们如何使用它们..

从四处张望,我注意到你基本上可以输入提示令牌:

identifier
    : IDENTIFIER<AnyJavaClassIWantAST>
    ;

对于解析规则,你不能完全相同......但是如果你创建了一些代表整个分析规则的标记,你可以使用如下的重写规则:

declaration
    : type identifier -> SOME_PARSE_RULE<AnyJavaClassIWantAST>
    ;

所有这些都与我想要的更接近,但理想情况下,我不应该乱扔语法......有什么方法可以将这些地方放在其他地方吗?


你可以添加这个答案...

下面是一个人为的例子,它使用了少数ANTLR4的特性,将语法与输出语言分开,主要是替代标签和生成的监听器。 这个例子语法可以代表几个简单的代码,但是它没有语言引用 - 甚至没有在词法分析器中调用skip()来留空白。 测试类使用生成的侦听器将输入转换为某个Java输出。

我避免使用任何我在第一次尝试中无法完成的任何事情,所以不要以任何方式认为这是一个详尽的例子。

Simplang.g

grammar Simplang;


compilationUnit : statements EOF;
statements      : statement+;
statement       : block #BlockStatement 
                | call  #CallStatement
                | decl  #DeclStatement
                ;
block           : LCUR statements RCUR;    
call            : methodName LPAR args=arglist? RPAR SEMI;
methodName      : ID;
arglist         : arg (COMMA arg)*;
arg             : expr;    
decl            : VAR variableName EQ expr SEMI;
variableName    : ID;
expr            : add_expr;     

add_expr        : lhs=primary_expr (add_op rhs=primary_expr)*;
add_op          : PLUS | MINUS;    
primary_expr    : string=STRING
                | id=ID
                | integer=INT
                ;    

VAR: 'var';   
ID: ('a'..'z'|'A'..'Z')+;
INT: ('0'..'9')+;
STRING: ''' ~('r'|'n'|''')* ''';
SEMI: ';';
LPAR: '(';
RPAR: ')';
LCUR: '{';
RCUR: '}';
PLUS: '+';
MINUS: '-';    
COMMA: ',';
EQ: '=';
WS: (' '|'t'|'f'|'r'|'n') -> skip;

除了词法分析器和解析器外,ANTLR4还生成一个侦听器接口和默认的空实现类。 这是为上面的语法生成的界面。

SimplangListener.java

public interface SimplangListener extends ParseTreeListener {
    void enterArglist(SimplangParser.ArglistContext ctx);
    void exitArglist(SimplangParser.ArglistContext ctx);
    void enterCall(SimplangParser.CallContext ctx);
    void exitCall(SimplangParser.CallContext ctx);
    void enterCompilationUnit(SimplangParser.CompilationUnitContext ctx);
    void exitCompilationUnit(SimplangParser.CompilationUnitContext ctx);
    void enterVariableName(SimplangParser.VariableNameContext ctx);
    void exitVariableName(SimplangParser.VariableNameContext ctx);
    void enterBlock(SimplangParser.BlockContext ctx);
    void exitBlock(SimplangParser.BlockContext ctx);
    void enterExpr(SimplangParser.ExprContext ctx);
    void exitExpr(SimplangParser.ExprContext ctx);
    void enterPrimary_expr(SimplangParser.Primary_exprContext ctx);
    void exitPrimary_expr(SimplangParser.Primary_exprContext ctx);
    void enterAdd_expr(SimplangParser.Add_exprContext ctx);
    void exitAdd_expr(SimplangParser.Add_exprContext ctx);
    void enterArg(SimplangParser.ArgContext ctx);
    void exitArg(SimplangParser.ArgContext ctx);
    void enterAdd_op(SimplangParser.Add_opContext ctx);
    void exitAdd_op(SimplangParser.Add_opContext ctx);
    void enterStatements(SimplangParser.StatementsContext ctx);
    void exitStatements(SimplangParser.StatementsContext ctx);
    void enterBlockStatement(SimplangParser.BlockStatementContext ctx);
    void exitBlockStatement(SimplangParser.BlockStatementContext ctx);
    void enterCallStatement(SimplangParser.CallStatementContext ctx);
    void exitCallStatement(SimplangParser.CallStatementContext ctx);
    void enterMethodName(SimplangParser.MethodNameContext ctx);
    void exitMethodName(SimplangParser.MethodNameContext ctx);
    void enterDeclStatement(SimplangParser.DeclStatementContext ctx);
    void exitDeclStatement(SimplangParser.DeclStatementContext ctx);
    void enterDecl(SimplangParser.DeclContext ctx);
    void exitDecl(SimplangParser.DeclContext ctx);
}

下面是一个测试类,它覆盖空侦听器中的几个方法并调用解析器。

SimplangTest.java

public class SimplangTest {

    public static void main(String[] args) {

        ANTLRInputStream input = new ANTLRInputStream(
                "var x = 4;nfoo(x, 10);nbar(y + 10 - 1, 'x' + 'y' + 'z');");

        SimplangLexer lexer = new SimplangLexer(input);

        SimplangParser parser = new SimplangParser(new CommonTokenStream(lexer));

        parser.addParseListener(new SimplangBaseListener() {
            public void exitArg(SimplangParser.ArgContext ctx) {
                System.out.print(", ");
            }

            public void exitCall(SimplangParser.CallContext call) {
                System.out.print("})");
            }

            public void exitMethodName(SimplangParser.MethodNameContext ctx) {
                System.out.printf("call("%s", new Object[]{", ctx.ID()
                        .getText());
            }

            public void exitCallStatement(SimplangParser.CallStatementContext ctx) {
                System.out.println(";");
            }

            public void enterDecl(SimplangParser.DeclContext ctx) {
                System.out.print("define(");
            }

            public void exitVariableName(SimplangParser.VariableNameContext ctx) {
                System.out.printf(""%s", ", ctx.ID().getText());
            }

            public void exitDeclStatement(SimplangParser.DeclStatementContext ctx) {
                System.out.println(");");
            }

            public void exitAdd_op(SimplangParser.Add_opContext ctx) {
                if (ctx.MINUS() != null) {
                    System.out.print(" - ");
                } else {
                    System.out.print(" + ");
                }
            }

            public void exitPrimary_expr(SimplangParser.Primary_exprContext ctx) {
                if (ctx.string != null) {
                    String value = ctx.string.getText();
                    System.out.printf(""%s"",
                            value.subSequence(1, value.length() - 1));
                } else if (ctx.altNum == 2){    //cheating and using the alt# for "INT"
                    System.out.printf("read("%s")", ctx.id.getText());
                } else {
                    System.out.print(ctx.INT().getText());
                }
            }
        });

        parser.compilationUnit();
    }
}

以下是测试类中硬编码的测试输入:

var x = 4;
foo(x, 10);
bar(y + 10 - 1, 'x' + 'y' + 'z');

这是产生的输出:

define("x", 4);
call("foo", new Object[]{read("x"), 10, });
call("bar", new Object[]{read("y") + 10 - 1, "x" + "y" + "z", });

这是一个愚蠢的例子,但是它显示了构建自定义AST时可能对您有用的一些功能。

链接地址: http://www.djcxy.com/p/43707.html

上一篇: Mapping ANTLR parse rules to custom Java AST classes for code generation

下一篇: Using ANTLR to analyze and modify source code; am I doing it wrong?