ELK搭建开源日志系统(window版本)—图文详细

ELK搭建开源日志系统(window版本)—图文详细ELK搭建开源日志系统(window版本)—图文详细日志对于排查错误非常重要,使用linux命令awksedgrepfind等命令查询日志非常麻烦,而且很难做数据分析,使用免费开源的ELK可以支撑大规模的日志检索,本文将一步步教怎么快速搭建一个window版本的ELK日志收集系统。下载elasticsearch、logstash、kibana、filebeat注意同一系列的版本要一样,防止出现版本不兼容问题,本文使用7.16.0版本,在window系统演示下载elasticsearch访问地

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

ELK搭建开源日志系统(window版本)—图文详细

日志对于排查错误非常重要,使用linux命令awk sed grep find等命令查询日志非常麻烦,而且很难做数据分析,使用免费开源的ELK可以支撑大规模的日志检索,本文将一步步教怎么快速搭建一个window版本的ELK日志收集系统。

下载elasticsearch、logstash、kibana、filebeat

注意同一系列的版本要一样,防止出现版本不兼容问题,本文使用7.16.0版本,在window系统演示

下载elasticsearch

访问地址为:https://www.elastic.co/cn/downloads/past-releases

点击Donload下载

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-lnxsdUYo-1650982517731)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418221506034.png)]

跳转到访问地址为: https://www.elastic.co/cn/downloads/past-releases/elasticsearch-7-16-0

可以选择window或者linux版本,本文下载window版本

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-M1jRDCQE-1650982517734)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222252223.png)]

下载logstash

点击Donload下载

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RDykQ2Of-1650982517735)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222022349.png)]

跳转到访问地址为: https://www.elastic.co/cn/downloads/past-releases/logstash-7-16-0

选择window版本

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YbuJ55ki-1650982517736)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222156985.png)]

下载kibana

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-rpJrDCzp-1650982517736)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222344389.png)]

访问地址为:https://www.elastic.co/cn/downloads/past-releases/kibana-7-16-0

选择window版本

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-MXd9av1V-1650982517737)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222406775.png)]

跳转到访问地址为:https://www.elastic.co/cn/downloads/past-releases/filebeat-7-16-0

下载filebeat

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3SQr23uj-1650982517737)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222601130.png)]

选择window版本

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-46KKFSYe-1650982517738)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220418222630758.png)]

下载jdk11

由于7.16.0版本需要依赖java jdk11版本,需要将本地java环境切换到jdk11

访问网站: http://www.codebaoku.com/jdk/jdk-oracle-jdk11.html

点击下载

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FwGL7AIQ-1650982517739)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420200908722.png)]

全部下载完解压

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-onb7yQoC-1650982517739)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420202003124.png)]

安装jdk11、elasticsearch、kibana、logstash、filebeat

安装jdk11

使用win+X键,并选择Windows终端

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-GY7Bzyl7-1650982517740)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420202133767.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jSEXSP3J-1650982517740)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420202251028.png)]

输入

cd F:\soft\elk
dir	

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5Cur3xeu-1650982517741)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420202824707.png)]

打开window搜索框搜索环境变量,打开编辑系统环境变量

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kXjAYeAv-1650982517741)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420203326862.png)]

点击环境变量

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-PozDjn3n-1650982517742)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420203449479.png)]

添加JAVA_HOME路径

F:\soft\elk\jdk-11.0.13_windows-x64_bin\jdk-11.0.13

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UHOzoqff-1650982517742)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420205025647.png)]

将java执行路径添加到Path变量中,输入

%JAVA_HOME%\bin
%JAVA_HOM%\jre\bin

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-r1YdIZGU-1650982517743)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420203823640.png)]

新打开一个shell(一定要重新打开一个新的shell才会加载刚配置过的jdk11环境变量)

并执行命令,可以看到jdk11提示输出,表示jdk11安装成功

java -version

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-k2hr9SWx-1650982517743)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420214822004.png)]

启动elasticsearch

启动新的shell,并执行命令

cd F:\soft\elk
.\elasticsearch-7.16.0-windows-x86_64\elasticsearch-7.16.0\bin\elasticsearch.bat

如果本地使用localhost访问,不需要修改配置文件,否则需要修改如下

network.host: 0.0.0.0

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mudaFWwp-1650982517744)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423214458423.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QhT6ahbV-1650982517744)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420204714883.png)]

可以看到elasticsearch执行成功

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yXVfRQmx-1650982517745)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420215030696.png)]

启动kibana

启动新的shell,并执行命令

cd F:\soft\elk
.\kibana-7.16.0-windows-x86_64\kibana-7.16.0-windows-x86_64\bin\kibana.bat

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5LEZYmNQ-1650982517745)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420215355755.png)]

可以看到执行成功

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8PcUKiDE-1650982517746)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420215454109.png)]

访问网站,可以看到启动成功

http://localhost:5601/app/home#/

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-L7KOP3WE-1650982517746)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420215557167.png)]

点击Explore on my own

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-AIGFhhA7-1650982517747)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423144541137.png)]

启动logstash

在logstash配置文件中,新增文件名log.conf

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-HI3UJ5xK-1650982517747)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420220239744.png)]

内容如下:

输入指定通过5044端口使用Filebeat接收数据。

指定在elasticsearch中创建test的索引,将数据输出到test索引中。

# Sample Logstash configuration for creating a simple
# Beats -> Logstash -> Elasticsearch pipeline.
input { 
   
  beats { 
   
    port => 5044
  }
}

output { 
   
  elasticsearch { 
   
    hosts => ["http://localhost:9200"]
    index => "test"
    #user => "elastic"
    #password => "changeme"
  }
}

启动新的shell,并执行命令

cd F:\soft\elk
.\logstash-7.16.0-windows-x86_64\logstash-7.16.0\bin\logstash.bat -f D:\conf\logstash-8.1.0-windows-x86_64\logstash-8.1.0\config\log.conf

https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420220650137.png

可以看到启动成功

image-20220420220729325

启动filebeat

新建日志log测试日志文件夹

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UtCfe7cj-1650982517748)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420221138864.png)]

进入log文件夹,创建data.log文件

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-vyEY1SCK-1650982517749)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420221231158.png)]

内容为

[08/Nov/2019:11:40:24 +0800] tc-com.net - - 192.168.12.58 192.168.12.58 192.168.15.135 80 GET 200 /geccess/services/capability/L6JN4255 ?pageIndex=1&pageSize=2000&vehicleType=0 21067 17 totalTime:54ms
[08/Nov/2019:11:40:24 +0800] tc-com.net - - 192.168.12.58 192.168.12.58 192.168.15.135 80 GET 200 /geccess/services/capability/L6JN4255 ?pageIndex=1&pageSize=2000&vehicleType=0 21067 17 totalTime:63ms
[08/Nov/2019:11:40:24 +0800] tc-com.net - - 192.168.12.58 192.168.12.58 192.168.15.135 80 GET 200 /geccess/services/capability/L6JN4255 ?pageIndex=1&pageSize=2000&vehicleType=0 21067 17 totalTime:75ms

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Rh0XjjNA-1650982517749)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420221403224.png)]

编辑filebeat文件

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-cwtil5RN-1650982517750)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420221433916.png)]

将enable改成true,同时设置日志路径为

F:\soft\elk\log\*.log

image-20220420223015584

将filebeat.config.modules的enable改成true

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-PHjGM6Ln-1650982517751)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423144213743.png)]

将输出到elasticsearch中使用#注释去掉,并将输出到logstash注释删除掉

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UaIm5SRp-1650982517751)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420221708300.png)]

cd F:\soft\elk
.\filebeat-7.16.0-windows-x86_64\filebeat.exe -e -c F:\soft\elk\filebeat-7.16.0-windows-x86_64\filebeat.yml

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZPeFdsyc-1650982517751)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220420222240061.png)]

可以看到filebeat运行成功

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-a1vR2LBy-1650982517752)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423144343293.png)]

kibana查询日志

命令查询创建的索引数据

访问网站,并点击左上角

http://localhost:5601/app/home#/

image-20220423144541137

左侧向下滑动,选中management,并点击Dev Tools

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yx5gzdLw-1650982517753)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423144617902.png)]

在Console输入下面命令

GET /_cat/indices?v

在点击绿色执行按钮,可以看到,索引test已经创建

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9ZTXTByS-1650982517753)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423144938859.png)]

输入下面命令,查询索引test的数据,可以看到日志数据已经成功上传

GET test/_search
{ 
   
    "query": { 
   
        "match_all": { 
   }
    }
}

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-y0GYYIvY-1650982517753)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423145332557.png)]

通过界面查看和索引日志数据

点击Stack Management

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-7jrL9Ijp-1650982517754)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423145805250.png)]

选择Index Patterns

image-20220423150023952

输入索引名称test,可以看到有匹配的,选择时间字段为@timestamp,点击Create Index pattern

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZQxqJs3p-1650982517756)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150226384.png)]

看到创建成功

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-6NdIMLsK-1650982517756)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150259353.png)]

选择Discover

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wNH6lY3A-1650982517757)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150342241.png)]

可以看到默认为test索引

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8kXBFOcK-1650982517757)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150404995.png)]

选择时间范围大一点

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jOMCB58K-1650982517757)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150440112.png)]

点击Update

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-zcTLOozG-1650982517758)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150502069.png)]

可以看到数据完全被加载出来

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-sF395OA6-1650982517758)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150517409.png)]

通过关键词totalTime搜索,点击Refresh,可以看到下面搜索高量的部分

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DXEg3AMC-1650982517759)(https://raw.githubusercontent.com/panguchuangshi/hexo-img/main/img/image-20220423150630046.png)]

总结

可以看到一个简单的日志收集系统搭建成功,我们可以根据这套系统收集日志,并做分析,本文只是针对window版本的介绍,后续会在linux版本搭建一套,步骤基本一致,更多实用搜索功能敬请期待。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/179082.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • java gridbagconstraints_GridBagConstraints

    java gridbagconstraints_GridBagConstraintsGridBagConstraintsjavaGui|2014-05-1412:54:00|阅读1737次|评论(1)importjavax.swing.*;importjava.awt.*;publicclassdemo_7{publicstaticvoidmain(String[]args){demo_7_1test=newdemo_7_1();}}clas…

  • 医疗用户端app原型/问诊/挂号/开药/视频问诊/电子处方/预约/互联网医疗平台用户端/Axure原型/电话问诊/药品/就诊开药/远程医疗平台/线上问诊/线上看病/rp源文件/移动端医疗原型/门诊「建议收藏」

    医疗用户端app原型/问诊/挂号/开药/视频问诊/电子处方/预约/互联网医疗平台用户端/Axure原型/电话问诊/药品/就诊开药/远程医疗平台/线上问诊/线上看病/rp源文件/移动端医疗原型/门诊「建议收藏」医疗用户端app原型/问诊/挂号/开药/视频问诊/电子处方/预约/互联网医疗平台用户端/Axure原型/电话问诊/药品/就诊开药/远程医疗平台/线上问诊/线上看病/rp源文件/移动端医疗原型Axure原型演示地址:https://www.pmdaniu.com/storages/124091/e51ce895d0be36e758d8fbcebc67f6ef-93733/start.html#g=1&p=%E9%A6%96%E9%A1%B5【医药、医疗】互联网医疗平台(问诊+挂号+开药)-用户

  • 动态规划——背包问题(c语言)

    动态规划——背包问题(c语言)/*背包问题:背包所能容纳重量为10;共五件商品,商品重量用数组m存储m[5]={2,2,6,5,4},每件商品的价值用数组n存储,n[5]={6,3,5,4,6};求背包所能装物品的最大价值。

  • Linux的文件系统类型「建议收藏」

    Linux的文件系统类型「建议收藏」提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言 一、文件系统类型 二、Linux基本文件操作 1.基本目录和文本命令 三、Linux查找 总结前言本节学习Linux下的l文件系统类型提示:以下是本篇文章正文内容,下面案例可供参考一、文件系统类型不同文件系统采用不同的方法来管理磁盘空间,各有优劣;文件系统是具体到分区的,所以格式化针对的是分区,分区格式化是指采用指定的文件系统类型对分区空间进行登记、索引并建立相应的管理表格的过程。

  • jetson nano安装pycuda

    jetson nano安装pycudaJetPack4.4版本使用之前配置cuda的环境$sudonano~/.bashrcexportPATH=/usr/local/cuda-10.2/bin:$PATHexportLD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATHexportCUDA_HOME=$CUDA_HOME:/usr/local/cuda-10.2$sudosource~/.bashrc$nvcc-V检测一下是否配置成功之后下载[p

    2022年10月23日
  • 论文投稿Cover letter[通俗易懂]

    论文投稿Cover letter[通俗易懂]转自:http://blog.sciencenet.cn/blog-479412-686426.html,感谢分享!1.第一次投稿Coverletter:主要任务是介绍文章主要创新以及声明没有一稿多投DearEditors:Wewouldliketosubmittheenclosedmanuscriptentitled“PaperTitle”,whichwewis…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号