首页 > 其他 > 详细

Spark-RDD 模型 以及运行原理

时间:2019-02-23 10:13:22      阅读:200      评论:0      收藏:0      [点我收藏+]

Spark-RDD 模型 以及运行原理

数据:在内存中计算,数组、list、set

spark:RDD是弹性分布性数据集合,并且是基于分区的只读记录。

RDD:操作类型(转换-Transformaction 和 行动-Action)

转换:Transformaction:根据原有的RDD创建一个新的RDD 。行动:Action是把RDD的操作返回给Driver。

所有的转换都是基于lazy模式(懒加载)。只有遇到Action的时候才开始执行。

RDD的依赖关系:job -> stag 

宽依赖,窄依赖

  宽依赖RDD的每个partition都依赖于父RDD的所有Partition

  窄依赖:只依赖一个或部分Partition

  技术分享图片

RDD分区与并行度

  可以通过配置 spark.default.parallesism 的设置

 

Spark-RDD 模型 以及运行原理

原文:https://www.cnblogs.com/Tonyzczc/p/10421525.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!