首页 > 数据库技术 > 详细

cdh5.3中配置sparksql

时间:2015-06-19 01:24:28      阅读:407      评论:0      收藏:0      [点我收藏+]

在cdh5.3中的spark,已经包含了sparksql,只需要做以下几步配置,就可以在使用该功能

1)确保hive的cli和jdbc都可以正常工作

2)把hive-site.xml 复制到 SPARK_HOME/conf目录下

3)将hive的类库添加到spark classpath中:编辑 SPARK_HOME/bin/compute-classpath.sh文件

  在文件中添加CLASSPATH="$CLASSPATH:/opt/cloudera/parcels/CDH-5.3.0-1.cdh5.3.0.p0.30/lib/hive/lib/*"

  (根据自己hive的安装位置添加路径,这是安装时的hive类库目录)

4)重启spark让配置生效

cdh5.3中配置sparksql

原文:http://www.cnblogs.com/smartcuning/p/4587379.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!