首页 > 其他 > 详细

Spark内核源码解析八:DAGScheduler原理解析和源码解析

时间:2020-05-11 23:32:59      阅读:80      评论:0      收藏:0      [点我收藏+]

原理图如下

重点DAGScheduler会从触发Action操作的RDD划分stage,然后往前倒退,如果之前依赖的RDD是窄依赖就会放入同一个stage,如果是宽依赖就会就会重新划分一个stage

技术分享图片

DAGScheduler

  runJob

    submitJob

      eventProcessLoop.post

        JobSubmitted

        handJobSubmitted

        finalStage = newStage

 

Spark内核源码解析八:DAGScheduler原理解析和源码解析

原文:https://www.cnblogs.com/xiaofeiyang/p/12872758.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!