Flink 的本地运行job流程

一个简单的wordcount demo

public class BatchWordCount {
    public static void main(String[] args) throws Exception {
        String inputPath = "D:\\outputDir\\file.txt";
        String outPath = "D:\\outputDir\\result.txt";
        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        env.setParallelism(1);
        DataSource<String> source = env.readTextFile(inputPath);
        AggregateOperator<Tuple2<String, Integer>> operator = source.flatMap(new Tokenizer()).groupBy(0).sum(1);
        operator.writeAsCsv(outPath).setParallelism(1);
        env.execute();
    }
    public static class Tokenizer implements FlatMapFunction<String, Tuple2<String, Integer>> {
        @Override
        public void flatMap(String value, Collector<Tuple2<String, Integer>> out) throws Exception {
            Arrays.asList(value.split(" ")).forEach( i -> out.collect(new Tuple2(i, 1)));
        }
    }
}

从 env.execute(); 开始:

如果我们不指定名字会有一个默认的名种。execute方法会触发程序执行,本地运行环境会触发所有带有sink操作的流程

execute的关键在于创建程序的执行计划使用执行器去执行这个任务计划

创建程序的执行计划:

创建程序计划,这个计划描述了所有的数据源,数据的sink操作和 中间的operations以及他们之间是如何交互的,整个作为一个独立的单元来被org.apache.flink.api.co

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值