Based on Flink 1.10.1
本文主要讲解下 flink 中 flink-conf.yaml 中有关 slots 的 配置,与 Yarn 中 container 以及 cores 的相应关系。
主要涉及以下两个参数
# The number of task slots that each TaskManager offers. Each slot runs one parallel pipeline.
taskmanager.numberOfTaskSlots: 2
解释:每个 TaskManager 中 slots 的数量。 该 slot 数量 与 YARN 中 core 一一对应。
# The parallelism used for programs that did not specify and other parallelism.
parallelism.default: 2
解释:当不做指定的时候,默认启动的slot 的数量
在 yarn 中 (1.flink single job 2. flink session )提交一个 flink 任务, container 数量计算方式如下
container.num == taskmanager.num == ( parallelism.default / taskmanager.numberOfTaskSlots )
taskmanager.numberOfTaskSlots: 1
parallelism.default: 2<

本文深入探讨了Flink在Yarn集群环境中,如何通过flink-conf.yaml配置文件中的slots参数,与Yarn中的container及cores进行资源协调。详细解析了taskmanager.numberOfTaskSlots与parallelism.default参数的作用,以及它们如何影响Yarn中container数量的计算。
338

被折叠的 条评论
为什么被折叠?



