首页 > 其他 > 详细

spark内核揭秘-13-Worker中Executor启动过程源码分析

时间:2015-01-24 02:10:55      阅读:247      评论:0      收藏:0      [点我收藏+]

进入Worker类源码:

bubuko.com,布布扣

?


可以看出Worker本身是Akka中的一个Actor。

?

进入Worker类的LaunchExecutor:

bubuko.com,布布扣

bubuko.com,布布扣

从源代码可以看出Worker节点上要分配CPU和Memory给新的Executor,首先需要创建一个ExecutorRunner:

ExecutorRunner是用于维护executor进程的:

?

?

1、进入ExecutorRunner 的start方法:

bubuko.com,布布扣

1.1、进入fetchAndRunExecutor()方法(核心方法):

bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

2、进入?master ! ExecutorStateChanged(appId, execId, manager.state, None, None)方法:

发送消息给Master:

bubuko.com,布布扣

bubuko.com,布布扣

我们再回到到launchExecutor方法:

?

bubuko.com,布布扣

进入ExecutorAdded方法:

bubuko.com,布布扣

上面代码利用Akka 发送ExecutorStateChanged方法给Master

?

进入 Master 的ExecutorStateChanged方法:

bubuko.com,布布扣

bubuko.com,布布扣

PS:感觉代码分析的有点乱,不是很理想,希望大家知道,谢谢

进入Worker类的LaunchExecutor:

bubuko.com,布布扣

bubuko.com,布布扣

1、进入ExecutorRunner 的start方法:

bubuko.com,布布扣

2、进入fetchAndRunExecutor()方法:

bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

spark内核揭秘-13-Worker中Executor启动过程源码分析

原文:http://stark-summer.iteye.com/blog/2179026

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!