首页 > 系统服务 > 详细

spark-shell启动报错

时间:2020-02-23 20:42:19      阅读:119      评论:0      收藏:0      [点我收藏+]

Spark On Hive 配置步骤
在Spark客户端安装包下的conf目录中创建文件hive-site.xml,配置hive的metastore路径

<configuration>
   <property>
        <name>hive.metastore.uris</name>
        <value>thrift://node01:9083</value>
   </property>
</configuration>

后台启动Hive的metastore服务

nobup hive --service metastore &

启动zookeeper集群,启动Hadoop集群
启动SparkShell 读取Hive中的表总数,对比hive中查询同一表查询总数测试时间
注意
如果使用Spark on Hive 查询数据时,出现错误:


找不到Hadoop集群路径,要在客户端机器conf/spark-env.sh中设置Hadoop的路径:


总结
上面写了一大堆,其实总体就两步:

配置hive的metastore路径
设置Hadoop路径

spark-shell启动报错

原文:https://www.cnblogs.com/wyh-study/p/12353979.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!