首页 > 其他 > 详细

China Azure 在HDinsight 中使用Spark 功能

时间:2016-01-26 01:53:57      阅读:162      评论:0      收藏:0      [点我收藏+]

国际版的Azure 已经可以正常支持Spark应用,但是当我们在使用中国版的Azure的时候,在Azure中国版官网里面发现了有对Spark服务的介绍,而真正去使用的时候,却发现无法创建。只有Storm,HBase和Hadoop。如图:

技术分享

那问题来了,中国版Azure的HDInsight是否支持Spark?
答案当然可以,不过需要自定义一下:

  1. 首先我们需要创建一个PAAS 层SQL Database 用来用以存储Hive、Oozie的元数据。

    技术分享

  2. 创建基于PAAS 层的HADOOP 集群:

    HDInsight 3.1 clusters会安装Spark 1.0.2
    HDInsight 3.2 clusters会安装Spark 1.2.0

    技术分享

  3. 配置集群节点和虚拟机:

    技术分享

  4. 配置访问用户,勾选配置Oozie云存储:

    技术分享

  5. 配置Oozie存储SQL Database数据库:

    技术分享

  6. 配置存储:

    技术分享

  7. 使用脚本安装Spark:

    技术分享


  1. 插入Spark 配置脚步:

    https://hdiconfigactions.blob.core.windows.net/sparkconfigactionv03/spark-installer-v03.ps1 。节点类型选择"仅头结点"

    技术分享

    最后点击"创建"按钮即可。

本文出自 “jeff-微软公有云” 博客,请务必保留此出处http://jeffcsc.blog.51cto.com/8669937/1738377

China Azure 在HDinsight 中使用Spark 功能

原文:http://jeffcsc.blog.51cto.com/8669937/1738377

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!