Flink_Flink On Yarn_flink资源slots 与 Yarn中container, 以及 cores 之间的关系

本文深入探讨了Flink在Yarn集群环境中,如何通过flink-conf.yaml配置文件中的slots参数,与Yarn中的container及cores进行资源协调。详细解析了taskmanager.numberOfTaskSlots与parallelism.default参数的作用,以及它们如何影响Yarn中container数量的计算。

Based on Flink 1.10.1

 

本文主要讲解下 flink 中 flink-conf.yaml 中有关 slots 的 配置,与 Yarn 中 container 以及 cores 的相应关系。

 

主要涉及以下两个参数

 

# The number of task slots that each TaskManager offers. Each slot runs one parallel pipeline.

taskmanager.numberOfTaskSlots: 2

解释:每个 TaskManager 中 slots 的数量。 该 slot 数量 与 YARN 中 core 一一对应。

 

# The parallelism used for programs that did not specify and other parallelism.

parallelism.default: 2

解释:当不做指定的时候,默认启动的slot 的数量

 

在 yarn 中 (1.flink single job   2. flink session )提交一个 flink 任务, container 数量计算方式如下

container.num ==  taskmanager.num ==  ( parallelism.default  /  taskmanager.numberOfTaskSlots )

 

 

 

taskmanager.numberOfTaskSlots: 1

parallelism.default: 2<

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值