首页 > 其他 > 详细

数据开发(持续梳理)

时间:2017-03-05 17:42:13      阅读:201      评论:0      收藏:0      [点我收藏+]

数据开发相关的经验不是很多,目前已自己对这块工作的理解,先初步整理下。

所谓数据开发是面向数据仓库的开发,所以结合一般数据仓库的架构主要有几个方面的生态内容。

1、数据采集

mysql等关系型数据的搜集

分布式日志搜集(flume、kafka)

2、数据存储

hdfs

3、数据计算(离线、实时)

mr、hive、spark、spark sql

spark streaming 、 storm

4、数据应用

BI系统、数据报表可视化、机器学习

数据开发(持续梳理)

原文:http://www.cnblogs.com/huilei/p/6506038.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!