首页 > 其他 > 详细

spark集群

时间:2020-02-22 10:06:23      阅读:46      评论:0      收藏:0      [点我收藏+]

https://blog.csdn.net/boling_cavalry/article/details/86747258

https://www.cnblogs.com/xuliangxing/p/7234014.html  

第二个链接较为详细,但版本较旧

 

技术分享图片

 

 技术分享图片技术分享图片

 

   注意spark 7077端口URL,如果hostname没配置正确,spark-submit会报错

 

 

jps看了两个slaves是有worker进程的。

spark安装完毕,启动hadoop集群:./sbin/./start-all.sh  

jps可查看

技术分享图片

技术分享图片

 

https://www.cnblogs.com/itboys/p/9998666.html

技术分享图片

 

 

技术分享图片

 

 虚拟机分配内存不足,解决方案参考:https://blog.csdn.net/u012848709/article/details/85425249

 

技术分享图片

 

 技术分享图片

 

 

最后终于跑完了,把输出结果get下来

技术分享图片

 

 done!

 

spark集群

原文:https://www.cnblogs.com/breakingbrad/p/12343889.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!