首页 > 其他 > 详细

spark厦门大学

时间:2019-11-01 11:21:51      阅读:75      评论:0      收藏:0      [点我收藏+]

---恢复内容开始---

https://study.163.com/course/courseMain.htm?courseId=1209408816&_trace_c_p_k2_=be708555d46e4f39828eda1e25189113

Spark:基于内存的计算框架

技术分享图片

 

 

 技术分享图片

 

 

 技术分享图片

 

 

 技术分享图片

 

 

 spark生态系统

技术分享图片

 

 

 技术分享图片

 

spark基本架构:

RDD: Resilient Distributed Dataset(弹性分布式数据集)

数据可大可小 弹性分配分区 分布式在内存中

DAG:Directed Acyclic Graph(有向无环图)

Executor 进程(process)和线程(thread)的区别 Process means any program is in execution   process 里有好几个thread(状态:running,ready,blocked)

技术分享图片

 

 

 

 技术分享图片

Cluster Manager可以是yarn

 

技术分享图片

 

 

spark厦门大学

原文:https://www.cnblogs.com/cschen588/p/11775627.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!