首页 > 其他 > 详细

大数据日志采集系统

时间:2019-01-24 17:44:48      阅读:208      评论:0      收藏:0      [点我收藏+]

ELK提供了一系列采集方案。但对于从app端过来的日志,没有接收模块。一种方案可以用logstash打开socket端口接收,需要客户端配合。这里提供通过http的方案。接收服务器采用springboot实现收集,发送日志到kafka。也可以直接写文件,用fileBeat读取发送到kafka。从kafka传送到elasticsearch用了大数据计算平台Beam实现。Beam编出的jar可以部署到spark,flink等。进入elasticsearch的数据可以做报警处理。用开源的elastAlert。可以将报警信息发往其他地方,可以用webhook,把报警信息post到服务器上,发送到如企业微信等。

技术分享图片

git源码:

采集服务:https://github.com/bigben0123/dataPlatformCollector

beam服务:https://github.com/bigben0123/

 

大数据日志采集系统

原文:https://www.cnblogs.com/bigben0123/p/10315857.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!