首页 > 其他 > 详细

CDH 5.16.1 离线安装 Spark 2.3

时间:2019-12-11 16:07:59      阅读:303      评论:0      收藏:0      [点我收藏+]

1.环境

CDH 5.16.1
Centos 7.6
Scala 2.11.8

2.安装前准备

1.下载 Spark2.3 所需的Parcel包

http://archive.cloudera.com/spark2/parcels/2.3.0.cloudera4/

技术分享图片

将三个文件拷贝到 /opt/cloudera/parcel-repo 目录下,如果有有相同文件,就将之前的文件重命名

2.下载Spark 的csd 包

http://archive.cloudera.com/spark2/csd/
技术分享图片

将 SPARK2_ON_YARN-2.3.0.cloudera4.jar 拷贝到 /opt/cloudera/csd 目录中

3.重启CM和集群

4.安装Spark

依次点击 “主机” --> “parcel” --> “检查新parcel” --> “分配” --> “激活”

5.问题

1.启动Spark2-shell报错

技术分享图片

解决办法:修改 yarn.scheduler.maximum-allocation-mb 和 yarn.nodemanager.resource.memory-mb的默认值为2G

技术分享图片
技术分享图片

CDH 5.16.1 离线安装 Spark 2.3

原文:https://www.cnblogs.com/wuning/p/12022728.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!