首页 > 其他 > 详细

HADOOP 优化(5):Hadoop-Yarn生产经验

时间:2021-09-06 08:22:48      阅读:29      评论:0      收藏:0      [点我收藏+]

1 常用的调优参数

1)调优参数列表

1Resourcemanager相关

 

yarn.resourcemanager.scheduler.client.thread-count    ResourceManager处理调度器请求的线程数量
yarn.resourcemanager.scheduler.class    配置调度器

 

2Nodemanager相关

yarn.nodemanager.resource.memory-mb                  NodeManager使用内存数
yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存,和上一个参数二者取一即可

yarn.nodemanager.resource.cpu-vcores    NodeManager使用CPU核数
yarn.nodemanager.resource.count-logical-processors-as-cores    是否将虚拟核数当作CPU核数
yarn.nodemanager.resource.pcores-vcores-multiplier    虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2
yarn.nodemanager.resource.detect-hardware-capabilities    是否让yarn自己检测硬件进行配置

yarn.nodemanager.pmem-check-enabled    是否开启物理内存检查限制container
yarn.nodemanager.vmem-check-enabled    是否开启虚拟内存检查限制container
yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例

3Container容器相关

yarn.scheduler.minimum-allocation-mb         容器最小内存
yarn.scheduler.maximum-allocation-mb         容器最大内存
yarn.scheduler.minimum-allocation-vcores     容器最小核数
yarn.scheduler.maximum-allocation-vcores     容器最大核数

2)参数具体使用案例

9.2 容量调度器使用

9.3 公平调度器使用

 

HADOOP 优化(5):Hadoop-Yarn生产经验

原文:https://www.cnblogs.com/qiu-hua/p/15229366.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!