YARN生产上调度器

1.生产上 job去申请调度资源时:

1
2
3
4
规则:
FIFO 先进先出
Capacity 计算
Fair 公平 生产

在这里插入图片描述

1
2
3
4
5
6
7
8
9
图解:
FiFO:表示 先进先出调度器
假设总共由40G的内存容器,job1在0点时进入运行作业,那么40G的内存全部运行job1,当job2在1点请求运行的时候,它需要等job1作业全部运行完成释放资源以后,再运行job2作业。
Capacity:表示 计算调度器
假设总共有40G的内存容器,它会分成两部分,5G的内村容器留给小的作业运算,它会一直运算小作业,不释放,剩下的35G运行其他作业。
Fair:表示 公平调度器(生产上都是用这一种)
假设一共有42G的内存容器,0点的时候job1任务先申请运算,然后会将40G的容器全部用作job1的运算中,当1带点时,job2请求运算作业,这时会分给job2部分容器,让它同时运行,

> 注意:这时会有延迟的,必须要等到job1有资源释放出来之后,才会给job2运算。

CDH 动态资源池 放置规则

1
2
3
4
5
<queuePlacementPolicy>
<rule name="specified" />
<rule name="primaryGroup" create="false" />
<rule name="default" queue="ABC"/>
</queuePlacementPolicy>

JOB -queue ABC
主组 jepson bigdata root

生产上怎么配置:
参考官网:http://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.html

在这里插入图片描述

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
<?xml version="1.0"?>
<allocations>
<queue name="ABC">
<minResources>10000 mb,10vcores</minResources>
<maxResources>60000 mb,30vcores</maxResources>
<weight>2.0</weight>
<schedulingPolicy>fair</schedulingPolicy>
</queue>

<queue name="XYZ">
<minResources>20000 mb,0vcores</minResources>
<maxResources>80000 mb,0vcores</maxResources>
<weight>3.0</weight>
<schedulingPolicy>fifo</schedulingPolicy>

</queue>
<queueMaxResourcesDefault>40000 mb,20vcores</queueMaxResourcesDefault>

<queuePlacementPolicy>
<rule name="specified" />
<rule name="primaryGroup" create="false" />
<rule name="default" queue="ABC"/>
</queuePlacementPolicy>
</allocations>

https://netjs.blogspot.com/2018/04/fair-scheduler-in-yarn-hadoop.html

本文标题:YARN生产上调度器

文章作者:skygzx

发布时间:2019年04月07日 - 12:00

最后更新:2019年04月07日 - 19:45

原始链接:http://yoursite.com/2019/04/07/YARN生产上调度器/

许可协议: 署名-非商业性使用-禁止演绎 4.0 国际 转载请保留原文链接及作者。

-------------本文结束感谢您的阅读-------------
0%