SpringBoot接入輕量級分布式日志框架(GrayLog)的操作方法
我是3y,一年CRUD經(jīng)驗(yàn)用十年的markdown程序員??????常年被譽(yù)為優(yōu)質(zhì)八股文選手
前兩天我不是發(fā)了一篇數(shù)據(jù)鏈路追蹤的文章嘛,在末尾也遺留了TODO:運(yùn)行應(yīng)用的服務(wù)器一般是集群,日志數(shù)據(jù)會(huì)記錄到不同的機(jī)器上,排查和定位問題只能登錄各個(gè)服務(wù)器查看。
今天來聊聊這個(gè)話題。
00、為什么需要分布式日志組件?
在文章正式開始之前,我分享下我以前負(fù)責(zé)過的一個(gè)系統(tǒng),它的架構(gòu)如下:

每次當(dāng)我查問題的時(shí)候,我可能能把問題初步定位在邏輯層,但為了能給業(yè)務(wù)方交代,我需要給證據(jù)業(yè)務(wù)方看(日志信息就是鐵證)。
一個(gè)請求肯定是被這8臺機(jī)器內(nèi)的某一臺處理,但具體是哪一臺,我不知道。所以,我需要上每臺機(jī)器上grep一把日志,然后才能找出對應(yīng)的日志證明我的分析。

有的時(shí)候,可能接入層也需要一起參與進(jìn)去,就排查一個(gè)問題,人都傻了了(翻看日志的時(shí)間占用了太久了)。
后來啊,看了同事的騷操作(在item2 編寫腳本:快速登錄堡壘機(jī)(免去輸入賬號和密碼信息),根據(jù)應(yīng)用服務(wù)器數(shù)量來切割窗口并且切換到對應(yīng)的日志目錄)。說白了就是一鍵登錄多臺應(yīng)用服務(wù)器。嗯,這查日志的速度比起以前又快了好多。

再后來,公司運(yùn)維側(cè)又主力推在Web頁面上登錄應(yīng)用服務(wù)器(自動(dòng)登錄堡壘機(jī)),這能省去編寫腳本(支持批量操作)。但從當(dāng)時(shí)的體驗(yàn)上,沒有用item2訪問得流暢(總感覺卡卡的)。
不過還有問題,因?yàn)槲覀冊诤芏鄷r(shí)候是不知道在info/warn/error哪個(gè)文件下。很多時(shí)候只能一個(gè)一個(gè)文件去查,雖然說可以直接通配符一把查,如果日志過大,帶來停頓時(shí)間也挺煩的。
系統(tǒng)一旦被問到業(yè)務(wù)問題,查日志的頻率實(shí)在是太高了。于是我在某個(gè)Q規(guī)劃的時(shí)候是想自己把日志信息寫入到搜索引擎,順便學(xué)習(xí)下搜索引擎的知識。然后這個(gè)規(guī)劃被組內(nèi)的某個(gè)大佬看到了,在底下評論:要不來試試Graylog?
原來組內(nèi)本身就在維護(hù)了一個(gè)日志框架,只是我不知道...于是我接入了Graylog日志,工作效率杠杠提高了,憑借這個(gè)事情吹了一個(gè)Q。

自從接入了之后,我就沒登錄過應(yīng)用服務(wù)器了,有次差點(diǎn)連grep都不會(huì)寫了。

01、輕量級ELK(Graylog)
說起ELK,即便沒用過肯定也聽說過這玩意了,在后端是真的流行。這次austin接入一個(gè)比較輕量級的ELK框架:Graylog
這個(gè)框架我感覺蠻好用的,作為使用方接入起來異常簡單(我估摸運(yùn)維應(yīng)該也挺簡單的,很多用Graylog是直接發(fā)UDP到Server,不用在機(jī)器上裝agent收集日志)
一圖勝十言:

官方文檔:https://docs.graylog.org/docs
據(jù)我了解,有相當(dāng)多的企業(yè)使用它來查看日志和業(yè)務(wù)監(jiān)控告警,這篇文章我就直接讓你們體驗(yàn)體驗(yàn)吧。
02、部署Graylog
老樣子,直接上docker-compose,如果一直跟著我的步伐,應(yīng)該對著不陌生了。docker-compose.yml的內(nèi)容其實(shí)我也是抄官網(wǎng)的,這里還是貼下吧(就不用你們翻了)
version: '3'
services:
mongo:
image: mongo:4.2
networks:
- graylog
elasticsearch:
image: docker.elastic.co/elasticsearch/elasticsearch-oss:7.10.2
environment:
- http.host=0.0.0.0
- transport.host=localhost
- network.host=0.0.0.0
- "ES_JAVA_OPTS=-Dlog4j2.formatMsgNoLookups=true -Xms512m -Xmx512m"
ulimits:
memlock:
soft: -1
hard: -1
deploy:
resources:
limits:
memory: 1g
networks:
- graylog
graylog:
image: graylog/graylog:4.2
environment:
- GRAYLOG_PASSWORD_SECRET=somepasswordpepper
- GRAYLOG_ROOT_PASSWORD_SHA2=8c6976e5b5410415bde908bd4dee15dfb167a9c873fc4bb8a81f6f2ab448a918
- GRAYLOG_HTTP_EXTERNAL_URI=http://ip:9009/ # 這里注意要改ip
entrypoint: /usr/bin/tini -- wait-for-it elasticsearch:9200 -- /docker-entrypoint.sh
networks:
- graylog
restart: always
depends_on:
- mongo
- elasticsearch
ports:
- 9009:9000
- 1514:1514
- 1514:1514/udp
- 12201:12201
- 12201:12201/udp
networks:
graylog:
driver: bridg
這個(gè)文件里唯一需要改動(dòng)的就是ip(本來的端口是9000的,我由于已經(jīng)占用了9000端口了,所以我這里把端口改成了9009,你們可以隨意)
嗯,寫完docker-compose.yml文件,直接docker-compose up -d它就啟動(dòng)起來咯。
啟動(dòng)以后,我們就可以通過ip:port訪問對應(yīng)的Graylog后臺地址了,默認(rèn)的賬號和密碼是admin/admin

隨后,我們配置下inputs的配置,找到GELF UDP,然后點(diǎn)擊Launch new input,只需要填寫Title字段,保存就完事了(其他不用動(dòng))。

嗯,到這里,我們的GrayLog設(shè)置就完成了。
03、SpringBoot使用GrayLog
還記得我們austin項(xiàng)目使用的日志框架嗎?沒錯(cuò),就是logback。我們要把日志數(shù)據(jù)寫入Graylog很簡單,只需要兩步:
1、引入依賴:
<dependency> <groupId>de.siegmar</groupId> <artifactId>logback-gelf</artifactId> <version>3.0.0</version> </dependency>
2、在logback.xml配置graylog相關(guān)的信息:
<appender name="GELF" class="de.siegmar.logbackgelf.GelfUdpAppender">
<!-- Graylog服務(wù)的地址 -->
<graylogHost>ip</graylogHost>
<!-- UDP Input端口 -->
<graylogPort>12201</graylogPort>
<!-- 最大GELF數(shù)據(jù)塊大?。▎挝唬鹤止?jié)),508為建議最小值,最大值為65467 -->
<maxChunkSize>508</maxChunkSize>
<!-- 是否使用壓縮 -->
<useCompression>true</useCompression>
<encoder class="de.siegmar.logbackgelf.GelfEncoder">
<!-- 是否發(fā)送原生的日志信息 -->
<includeRawMessage>false</includeRawMessage>
<includeMarker>true</includeMarker>
<includeMdcData>true</includeMdcData>
<includeCallerData>false</includeCallerData>
<includeRootCauseData>false</includeRootCauseData>
<!-- 是否發(fā)送日志級別的名稱,否則默認(rèn)以數(shù)字代表日志級別 -->
<includeLevelName>true</includeLevelName>
<shortPatternLayout class="ch.qos.logback.classic.PatternLayout">
<pattern>%m%nopex</pattern>
</shortPatternLayout>
<fullPatternLayout class="ch.qos.logback.classic.PatternLayout">
<pattern>%d - [%thread] %-5level %logger{35} - %msg%n</pattern>
</fullPatternLayout>
<!-- 配置應(yīng)用名稱(服務(wù)名稱),通過staticField標(biāo)簽可以自定義一些固定的日志字段 -->
<staticField>app_name:austin</staticField>
</encoder>
</appender>在這個(gè)配置信息里,唯一要改的也只是ip的地址,到這里接入就完畢了,我們再打開控制臺,就能看到日志的信息啦。

04、懂點(diǎn)GrayLog
懂點(diǎn)GrayLog查詢語法:這塊我日常來來去去其實(shí)就用幾個(gè),我來展示下我平時(shí)用的吧。如果覺得不夠,再去官網(wǎng)文檔撈一把就完事了:https://docs.graylog.org/docs/query-language
1、根據(jù)字段精確查詢:full_message:"13788888888"

2、查詢錯(cuò)誤日志信息:level_name:"ERROR"

3、組合多字段查詢:level_name:"INFO" AND full_message:"13788888888"

在接入的時(shí)候,仔細(xì)的小伙伴可能會(huì)發(fā)現(xiàn)我這邊在Input的時(shí)候選擇的是GELF,然后在引入Maven依賴的時(shí)候也有GELF的字樣。那GELF是啥意思呢?
這塊在官網(wǎng)也有給出對應(yīng)的解釋:The Graylog Extended Log Format (GELF) is a log format that avoids the shortcomings of classic plain syslog
詳細(xì)資料:https://docs.graylog.org/docs/gelf
GELF是一種日志格式,能避免傳統(tǒng)意義上的 syslogs的一些問題,而我們引入的Maven依賴則是把日志格式化成GELF格式然后append到GrayLog上。

05 、番外:Swagger
前幾天有個(gè)老哥在GitHub給我提了個(gè)pull request關(guān)于swagger的,我昨天把他merge了,也升級了下swagger的版本。
之前我沒用過swagger類似的文檔工具,就這次pull request我也去體驗(yàn)了下swagger。
在初次的體驗(yàn)感覺是不錯(cuò)的:它能把項(xiàng)目的所有接口的文檔信息都能在一個(gè)頁面上統(tǒng)一管理,并且就能直接通過樣例參數(shù)直接發(fā)送請求。通過注解的方式來進(jìn)行編寫文檔,也不用擔(dān)心代碼改了然后忘了更新文檔這事。
但是,后來我配置好對應(yīng)的參數(shù)信息文檔,再在swagger-ui體驗(yàn)了下,發(fā)現(xiàn)是真滴丑,看到這ui我還是階段性放棄吧。

swagger的競品還有好幾個(gè),我看ui貌似都要比swagger好看。不過,austin項(xiàng)目的主要接口就只有一個(gè),我作為熟練掌握的markdown工程師能輕松勝任文檔工作,就沒再繼續(xù)體驗(yàn)別的競品了。
06、總結(jié)
之前我好像是在知乎看到過類似的一段話:一個(gè)工具或框架使用優(yōu)秀,就取決于它的入門的難易。如果一個(gè)框架要花很長時(shí)間才能弄懂,那可能它做得并沒那么好。
我其實(shí)不會(huì)經(jīng)常去研究各種使用的框架它的細(xì)節(jié)原理,也不會(huì)蒙頭就去看源碼,沒什么必要,畢竟它沒出問題啊。
像GrayLog這種工具類的框架,如果在公司不是主要的維護(hù)者,其實(shí)不必太過于糾結(jié)他的實(shí)現(xiàn)細(xì)節(jié),可以從總體上把握他的設(shè)計(jì)思想。換我建議,真要學(xué)習(xí),還得是看它的具體存儲(chǔ)(比如Elasticsearch的原理)
austin項(xiàng)目源碼Gitee鏈接:gitee.com/austin
austin項(xiàng)目源碼GitHub鏈接:github.com/austin
到此這篇關(guān)于SpringBoot接入輕量級分布式日志框架(GrayLog)的文章就介紹到這了,更多相關(guān)SpringBoot GrayLog日志框架內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
java 實(shí)現(xiàn)雙向鏈表實(shí)例詳解
這篇文章主要介紹了java 實(shí)現(xiàn)雙向鏈表實(shí)例詳解的相關(guān)資料,需要的朋友可以參考下2017-03-03
idea中啟動(dòng)項(xiàng)目彈出 IDEA out of memory窗口的解決方案
這篇文章主要介紹了idea中啟動(dòng)項(xiàng)目彈出 IDEA out of memory窗口的解決方案,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-01-01
Spring?Session(分布式Session共享)實(shí)現(xiàn)示例
這篇文章主要介紹了Spring?Session(分布式Session共享)實(shí)現(xiàn)示例,文章內(nèi)容詳細(xì),需要的朋友可以參考下2023-01-01
springboot打war包部署到外置tomcat容器的方法
這篇文章主要介紹了springboot]打war包部署到外置tomcat容器,在這需要注意的是在boot-launch.war在tomcat?webapps目錄里面解壓到boot-launch文件夾,感興趣的朋友跟隨小編一起看看吧2022-04-04
java實(shí)現(xiàn)微信公眾號發(fā)送模版消息
這篇文章以訂單推送為例,主要為大家詳細(xì)介紹了java實(shí)現(xiàn)微信公眾號發(fā)送模版消息,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-04-04
你的Idea還有BUG嗎不妨試試另一個(gè)開發(fā)神器
Spring Tool Suite(STS)就是一個(gè)基于Eclipse的開發(fā)環(huán)境, 用于開發(fā)Spring應(yīng)用程序。本文給大家給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友參考下吧2020-12-12

