首页 > 其他 > 详细

mapreduce 运行-指定各种运行参数

时间:2017-03-08 14:47:28      阅读:192      评论:0      收藏:0      [点我收藏+]

mapreduce指定参数

mapreduce在运行的时候可以指定各种参数,这样可以根据实际的应用场景做一下相关的调整

1.指定运行时cpu的个数

hadoop jar hadoop-core-0.1.0-SNAPSHOT.jar cn.hadoop.mapreduce.WordCount -D mapreduce.map.cpu.vcores=2 /home/input /home/output

-D mapreduce.map.cpu.vcores=2 :指定这个mapreduce任务运行时cpu的个数

/home/input :指定的输入hdfs路径

/home/output:指定的输出hdfs路径

查看结果:http://kafka-test01:8088/proxy/application_1488814616605_0007

技术分享

 点击Configuration查看相关的配置:

 技术分享

2.指定运行时memory的大小

hadoop jar hadoop-core-0.1.0-SNAPSHOT.jar cn.hadoop.mapreduce.WordCount -D mapreduce.map.memory.mb=2048 /home/input/ /home/output/

mapreduce.map.memory.mb=2048 :指定这个mapreduce任务运行时内存的大小

/home/input :指定的输入hdfs路径

/home/output:指定的输出hdfs路径

查看结果:http://kafka-test01:8088/proxy/application_1488814616605_0005

技术分享

 

 点击Configuration查看相关的配置:

技术分享

 

mapreduce 运行-指定各种运行参数

原文:http://www.cnblogs.com/chushiyaoyue/p/6519355.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!