首页 > 其他 > 详细

海量可视化日志分析平台之ELK搭建

时间:2015-10-21 15:35:22      阅读:240      评论:0      收藏:0      [点我收藏+]

ELK是什么?
E=ElasticSearch ,一款基于的Lucene的分布式搜索引擎,我们熟悉的github,就是由ElastiSearch提供的搜索,据传已经有10TB+的数据量。
L=LogStash , 一款分布式日志收集系统,支持多输入源,并内置一些过滤操作,支持多输入元
K=Kibana , 一款配合ElasticSearch的web可视化界面,内置非常各种查询,聚合操作,并拥有漂亮的图形化展示功能

为什么要用ELK?

在实际应用中,我们的日志是非常重要的,它通常会记录一些比较重要的信息,如应用程序的log记录的error,warn级别的log,通常在量小的情况下,我们可以直接vi+awk+sed+grep定位原因,在量大的时候,这种方式就捉襟见肘了,而且我们还要各种聚合,或者基于异常多个关键词的搜索,并有且,或,交,并,差,补,排序等一些操作,而且相应速度必须给力,如果线上环境出了故障,能够立刻准确定位,ELK就是高手,在百万大军中取上将首级,犹如探囊取物,所以这时候ELK就非常适合了,当然除此之外,ELK也经常在运维工作中大放光彩,在应用级别的实时监控,非常适合一些重要核心服务的预警。


ELK如何安装搭建?

环境要求:
Linux系统:Centos7

技术分享


Java版本:JDK1.8

技术分享


ELK均为最新版本:

技术分享



(1)ElasticSearch1.7.2 基于Lucene4.10.4的版本

技术分享

(2)Logstash1.5.4

技术分享


(3)Kibana4.1.2

技术分享



集群拓扑:

ElasticSearch 3台机器:
集群名:search
机器名+es节点名     =>         ip地址
h1                 =>         192.168.1.120
h2                 =>         192.168.1.121
h3                 =>         192.168.1.122

Logstash    192.168.1.120
Kibana       192.168.1.120


下载:
elasticsearch: wget  https://download.elastic.co/elasticsearch/elasticsearch/elasticsearch-1.7.3.tar.gz
logstash       : wget  https://download.elastic.co/logstash/logstash/logstash-1.5.4.tar.gz
kibana          : wget  https://download.elastic.co/kibana/kibana/kibana-4.1.2-linux-x64.tar.gz


一: 安装elasticsearch集群:

(1)解压到指定目录
(2)配置elasticsearch.yml里面,集群名字和节点名字,如果不配置默认集群名为elasticsearch,节点名随机生成一个
(3) 在线安装head和bigdisk插件
直接在elasticsearch的根目录下,分别输入:
bin/plugin --install mobz/elasticsearch-head  安装head
bin/plugin --install lukas-vlcek/bigdesk  安装bigdesk

(4)scp分发安装完毕后的elasticsearch
(5)依次启动各个机器上的elasticsearch
(6)head显示如下:


技术分享
技术分享



(7)bigdisk显示如下:




技术分享


技术分享


二:安装logstash

(1)解压到指定目录
(2)在根木下新建一个conf目录,在里面新建一个配置文件first.conf

技术分享

(3)启动logstash
执行命令: bin/logstash -f conf/first.conf

技术分享



三:安装kibana
(1)解压到指定目录
(2)在根目录执行bin/kibana直接启动
(3)访问http://192.168.1.120:5601/ 配置一个ElasticSearch索引
(4)在logstach里面添加数据

技术分享


(5)查看图表:刚新加的数据

技术分享




四: 至此,ELK组件已经安装完毕,带图形化界面的简单日志查询分析系统就搞定了

本篇只是一个简单的入门例子,如需深入可以研究elastic的官网文档:
https://www.elastic.co/guide/index.html 

海量可视化日志分析平台之ELK搭建

原文:http://www.cnblogs.com/qindongliang/p/4897710.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!