首页 > Web开发 > 详细

Spark Web界面显示Workers未启动

时间:2021-05-16 14:29:52      阅读:15      评论:0      收藏:0      [点我收藏+]

项目场景:

选择Standalone模式搭建集群,并检查代码运行结果和Web页面显示

问题描述:

在写好配置文件后用start-all.sh启动该spark集群,三台机器的jps进程都正常,但web页面却没有显示workers和cpu等信息

技术分享图片

技术分享图片

技术分享图片

技术分享图片

原因分析:

查看日志文件,master的日志并没有什么异常

技术分享图片

workers的日志显示连接不到master

技术分享图片

用nmap确认能连接Master主机端口7077

技术分享图片

看来是可以连接的,可能是master绑定了本地的ip,查看一下

技术分享图片

果然如此,7077端口绑定的是本地回环,导致外界主机无法连接

为什么明明配置了SPARK_MASTER_HOST=ubuntu01还是会绑定本地回环?只好看一下启动脚本是不是有问题。

因为start-all.sh是调用了start-master.sh和start-workers.sh两个脚本,所以直接在start-master.sh内查找原因,注意这段代码:

技术分享图片

判断是否配置文件中SPARK_MASTER_HOST为空,如果为空则设置为hostname -f的值

但是我配置了这个,并且hostname -f的就是我配置的

$ hostname -f
ubuntu01

难道是hosts文件的映射有错???

技术分享图片

原来ubuntu和centos的hosts文件有点不一样,ubuntu会把本地回环映射到主机名上,虽然下面的代码也配置了ip映射到主机名上。但似乎读到第二行就停止了,导致了7077端口绑定在本地回环上。

解决方案:

将这条绑定代码删除,关闭集群重新启动

轻松秒杀!

技术分享图片

Spark Web界面显示Workers未启动

原文:https://www.cnblogs.com/pineapple-py/p/14773296.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!