ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

测试开发技能实践-搭建ELK日志管理系统

2022-02-25 10:33:32  阅读:207  来源: 互联网

标签:ELK 管理系统 kibana elasticsearch 日志 logstash es


每天进步一点点,关注我们哦,每天分享测试技术文章

本文章出自【码同学软件测试】

码同学公众号:自动化软件测试 ,领取资料可加:Matongxue_8

码同学抖音号:小码哥聊软件测试

 

前言

 

随着测试人员代码能力的不断增强,现在越来越多的测试工程师转向了测试开发岗位,用代码来解决测试中的效率问题。可以看到几乎现在所有的测试部门都在搞平台化,接口测试平台、性能测试平台等等。

 

当你开发一个测试平台的时候,日志是其中很重要的一个组成部分,通常来说,日志都是写到日志文件中的。但是很多时候,当项目出现一些问题时,你就需要去日志中查找一些关键信息,这个时候,你可能面临这些问题:

  • 不确定日志是哪一天记录的,找不到对应的日志文件
  • 日志文件内容过多,无法快速搜索出指定的日志信息
  • 在集群环境下,不确定日志记录在哪一台服务器上

因此,传统形式的日志存储和搜索就会面临越来越多的效率问题。可不可以有一套日志管理系统,集成了日志收集、存储、展示功能,来解决目前存在的日志查看效率低下、缺少可视化界面等问题,ELK就是在这种场景下诞生了。

 

01   ELK简介

 

ELK:ElasticSerach、Logstash、Kibana三款产品名称的首字母集合,用于日志的搜集和搜索。简单地理解为我们可以把服务端的日志(如nginx、tomcat等)直接web化展示查看,十分方便。

 

以下就以Tomcat为例,将tomcat的catalina.out中的日志展示在ELK平台中。

 

1.1 ELK部署架构

 

1.2 ELK工作流程

1. 业务请求到达tomcat,并记录日志到catalina.out文件中;
2. FileBeat搜集catalina.out中新增的日志,通过LogStash的5044端口上传日志;
3. LogStash将日志信息通过本机的9200端口传入到ElasticSerach;
4. Kibana通过9200端口访问ElasticSerach;
5. 用户通过浏览器访问Kibana,进行日志搜索

 

1.3下载ELK全套安装包

官网下载:https://www.elastic.co/cn/start

 

02   ELK环境搭建

 

2.1 java环境配置

因为ElasticSerach运行需要java环境支持,所以首先要配置java环境,比较简单,具体方法可以自行百度。

 

2.2 修改系统最大链接数

1、修改Linux系统允许创建最大的连接数

vi /etc/security/limits.conf

在最后一行添加:

* soft nofile 1000000* hard nofile 1000000

2、保存文件,退出当前会话,重新登录系统。

3、执行ulimit -n查看是否生效,如果显示1000000则代表修改成功。

 

2.3 安装elasticsearch

1、将elasticsearch的安装包解压

2、因为elasticsearch不允许用root用户启动,所以先创建非root用户

创建es用户组:group add es
创建es用户:user add es -g es
修改elasticsearch目录为es用户:chown -R es:es elasticsearch-6.6.0

3、进入到elasticsearch的bin目录下,执行启动命令:

./elasticsearch -d

4、执行命令,检查es是否启动成功

curl http://localhost:9200

 

免费领取 码同学软件测试 课程笔记+超多学习资料+完整视频+最新面试题,可加:Matongxue_8/关注码同学公众号

 

有如下信息,代表启动成功

5、安装完毕后,切换回root用户

su root

 

2.4 安装logstash

1、解压logstash

2、配置logstash

logstash的config目录下,创建default.conf,配置好输入和输出信息,内容如下:

# 监听5044端口作为输入input {  beats {    port => "5044"    client_inactivity_timeout => 36000  }}
# 数据过滤filter {}
# 输出配置为本机的9200端口,这是ElasticSerach服务的监听端口output {  elasticsearch {    hosts => ["127.0.0.1:9200"]  }}

3、在bin目录下启动logstash

nohup ./logstash -f ../config/default.conf &

2.5 安装Kibana

1、解压kibana

2、修改config目录下的kibana.yml

打开server.host的注释,修改ip为0.0.0.0

3、启动kibana

在kibana的bin目录下,执行命令启动

nohup ./kibana &

4、访问kibana

在浏览器中输入http://{ip}:5601,如果能看到kibana页面,代表部署成功

 

2.6 安装Filebeat

1、解压filebeat

2、修改配置文件filebeat.yml

enabled设置为true
paths下设置为监控的日志文件

hosts:logstash的部署ip和端口号

3、启动filebeat

nohup ./filebeat -e -c filebeat.yml &

03   使用kibana查看日志

 

1、浏览器打开http://{kibana部署ip}:5601

2、调用Tomcat中的web项目,产生业务日志

3、点击kibana中的"Discover",就可以看到es中保存的业务日志数据

 

END

免费领取码同学软件测试课程笔记+超多学习资料+学习完整视频,可加:Matongxue_8/关注码同学公众号

本文著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处。

 

标签:ELK,管理系统,kibana,elasticsearch,日志,logstash,es
来源: https://www.cnblogs.com/testfan2019/p/15934769.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有