logback filter 指定文件输出_面试官:Logback如何配置,才能提升TPS?

论坛 期权论坛 脚本     
已经匿名di用户   2022-5-29 19:37   1624   0

点击上方 好好学java ,选择 星标 公众号

重磅资讯、干货,第一时间送达06a8d501a2c75bb354f959191eec4326.png

今日推荐:面试官问你B树和B+树,就把这篇文章丢给他

我的小站:个人小站,欢迎小憩

作者:何甜甜在吗链接:https://juejin.im/post/5d4d61326fb9a06aff5e5ff5

通过阅读本篇文章将了解到

  • 1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件

  • 2.通过异步输出日志减少磁盘IO提高性能

  • 3.异步输出日志的原理

配置文件logback-spring.xml

SpringBoot工程自带logbackslf4j的依赖,所以重点放在编写配置文件上,需要引入什么依赖,日志依赖冲突统统都不需要我们管了。logback框架会默认加载classpath下命名为logback-springlogback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题,正确的做法应该是将error日志和其他日志分开,并且不同级别的日志根据时间段进行记录存储。

<?xml version="1.0" encoding="utf-8"?><configuration> <property resource="logback.properties"/> <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender"> <layout class="ch.qos.logback.classic.PatternLayout"> <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%npattern> layout> appender> <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender"> <filter class="ch.qos.logback.classic.filter.LevelFilter"> <level>ERRORlevel> <onMatch>DENYonMatch> <onMismatch>ACCEPTonMismatch> filter> <encoder> <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%npattern> encoder> <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy"> <fileNamePattern>${LOG_INFO_HOME}//%d.logfileNamePattern> <maxHistory>30maxHistory> rollingPolicy> appender> <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender"> <filter class="ch.qos.logback.classic.filter.ThresholdFilter"> <level>ERRORlevel> filter> <encoder> <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%npattern> encoder> <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy"> <fileNamePattern>${LOG_ERROR_HOME}//%d.logfileNamePattern> <maxHistory>30maxHistory> rollingPolicy> appender> <root level="info"> <appender-ref ref="CONSOLE-LOG" /> <appender-ref ref="INFO-LOG" /> <appender-ref ref="ERROR-LOG" /> root>configuration>

部分标签说明

  • 标签,必填标签,用来指定最基础的日志输出级别

    • 标签,添加append

  • 标签,通过使用该标签指定日志的收集策略

    • name属性指定appender命名

    • class属性指定输出策略,通常有两种,控制台输出和文件输出,文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台

  • 标签,通过使用该标签指定过滤策略

    • 标签指定过滤的类型

  • 标签,使用该标签下的标签指定日志输出格式

  • 标签指定收集策略,比如基于时间进行收集

    • 标签指定生成日志保存地址 通过这样配置已经实现了分类分天手机日志的目标了

d51eea2c1efb25f9e944885a533cbae2.png

logback 高级特性异步输出日志

之前的日志配置方式是基于同步的,每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO,阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单,添加一个基于异步写日志的appender,并指向原先配置的appender即可

<appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender"> <discardingThreshold>0discardingThreshold> <queueSize>256queueSize> <appender-ref ref="INFO-LOG"/> appender> <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender"> <discardingThreshold>0discardingThreshold> <queueSize>256queueSize> <appender-ref ref="ERROR-LOG"/> appender>

异步输出日志性能测试

既然能提高性能的话,必须进行一次测试比对,同步和异步输出日志性能到底能提升多少倍?

服务器硬件
  • CPU 六核

  • 内存 8G

测试工具

Apache Jmeter

同步输出日志
  • 线程数:100

  • Ramp-Up Loop(可以理解为启动线程所用时间) :0 可以理解为100个线程同时启用

  • 测试结果

    1a9d8afe436f1c579923b0ad136cc010.png

    重点关注指标Throughput【TPS】吞吐量:系统在单位时间内处理请求的数量,在同步输出日志中TPS44.2/sec

异步输出日志
  • 线程数 100

  • Ramp-Up Loop:0

  • 测试结果

    d214c5f05a89d007b79f15c509cd36bf.png

    TPS497.5/sec性能提升了10多倍!!!

异步日志输出原理

logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示:

1e959ab5963268a0144af74c396a37b3.png

异步输出日志中最关键的就是配置文件中ch.qos.logback.classic包下AsyncAppenderBase类中的append方法,查看该方法的源码:

protected void append(E eventObject) { if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) { this.preprocess(eventObject); this.put(eventObject); } }

通过队列情况判断是否需要丢弃日志,不丢弃的话将它放到阻塞队列中,通过查看代码,这个阻塞队列为ArrayBlockingQueueu,默认大小为256,可以通过配置文件进行修改。Logger.info(...)append(...)就结束了,只做了将日志塞入到阻塞队列的事,然后继续执行Logger.info(...)下面的语句了。在AsyncAppenderBase类中定义了一个Worker线程,run方法中的关键部分代码如下:

E e = parent.blockingQueue.take();aai.appendLoopOnAppenders(e);

从阻塞队列中取出一个日志,并调用AppenderAttachableImpl类中的appendLoopOnAppenders方法维护一个Append列表。Worker线程中调用方法过程主要如下图:

618ca1873f0d4d62d7db12e471f5c3c9.png

最主要的两个方法就是encodewrite方法,前一个法方会根据配置文件中encode指定的方式转化为字节码,后一个方法将转化成的字节码写入到文件中去。所以写文件是通过新起一个线程去完成的,主线程将日志扔到阻塞队列中,然后又去做其他事情了。

项目完整代码:https://github.com/TiantianUpup/springboot-log

推荐阅读:

从普本到渣硕,从大学生到自媒体的年轻人,我分享我的Coding生活

Java 实现 qq 登录

这几个Redis使用技巧,让你的程序快如闪电

4c657e8668900a973003571792f6bae3.png

推荐

  • 关注查看:福利,获取福利资源

866b43082e1c76afa4b7545db7b171a9.png

Coding这件小事

点个“在看”再走吧,谢谢?

分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:81
帖子:4969
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP