首页 > 其他 > 详细

【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群(第五步)(13)

时间:2014-11-20 12:13:56      阅读:436      评论:0      收藏:0      [点我收藏+]

从控制台可以看到我们的程序成功在集群上运行:

bubuko.com,布布扣

Detail for stage 1:

bubuko.com,布布扣

bubuko.com,布布扣

Detail for Stage 0:

bubuko.com,布布扣

bubuko.com,布布扣

查看一下Executors的信息:

bubuko.com,布布扣

上述信息表明程序成功在Spark集群上运行。

第四步:基于IDEA构建Spark开发环境

1,下载IDEA13.1.4社区版本“Community Edition FREE

http://www.jetbrains.com/idea/download/ 

bubuko.com,布布扣

2,安装IDEA并配置IDEA系统环境变量

具体安装和配置过程请参考【Spark亚太研究院系列丛书】-第一章 构建Spark集群(第四步)http://down.51cto.com/data/1848627 

3,使用IDEA开发Spark程序,我们这里使用SparkPi来验证开发环境

具体开发和配置过程请参考【Spark亚太研究院系列丛书】-第一章 构建Spark集群(第四步)http://down.51cto.com/data/1848627

4,通过IDEA在集群上运行程序,此时需要加入

“conf.setMaster(spark://192.168.35.129:7077)” 

运行之即可。

【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群(第五步)(13)

原文:http://my.oschina.net/u/1791057/blog/346687

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!