本篇内容介绍了“线上商城系统高并发优化的方法教程”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
项目简要情况概述
该项目为基于 SSM 架构的商城类单体架构项目,其中有一个秒杀重磅模块,如下为当前线上环境的简要架构部署图。
大致描述一下:
项目为 SSM 架构。
服务器类别:1 台负载均衡服务器(F5),3 台运用程序服务器,1 台计时器服务器,1 台 Redis 服务器,1 台图片服服务器和 1 台基于 Pass 架构的 MySQL 主从服务器(微软云)。
调用逻辑:上图为简要调用逻辑。
何为单体架构项目
从架构发展角度,软件项目经历了如下阶段的发展:
单体架构:可理解为传统的前后端未分离的架构。
垂直架构:可理解为前后端分离架构。
SOA 架构:可理解为按服务类别,业务流量,服务间依赖关系等服务化的架构,如以前的单体架构 ERP 项目,划分为订单服务,采购服务,物料服务和销售服务等。
微服务:可理解为一个个小型的项目,如之前的 ERP 大型项目,划分为订单服务(订单项目),采购服务(采购项目),物料服务(物料项目)和销售服务(销售项目),以及服务之间调用。
本 SSM 项目引发的线上问题
①当秒杀的时候,CPU 暴增
该系统每天秒杀分为三个时间端:10 点,13 点和 20 点,如下为秒杀的简要页面:
②单台运用服务器 CPU
③单台运用服务器请求数
④rdis 连接数(info clients)
这个未保存截图,记得是 600 左右:
connected_clients:600
⑤MySQL 请求截图
排查过程及分析
排查思路
根据服务部署和项目架构,从如下几个方面排查:
运用服务器:排查内存,CPU,请求数等。
文件图片服务器:排查内存,CPU,请求数等。
计时器服务器:排查内存,CPU,请求数等。
Redis 服务器:排查内存,CPU,连接数等。
DB 服务器:排查内存,CPU,连接数等。
排查过程
在秒杀后 30 分钟内:
①运用程序服务器 CPU 暴增,内存暴增,造成 CPU 和内存暴增的根本原因是请求数过高,单台运用服务器达到 3000 多。
②Redis 请求超时,如下图:
③JDBC 连接超时,如下图:
④通过 GC 查看,发现 24 小时内,FullGC 发生了 152 次,如下图:
⑤再看看堆栈,发现有一些线程阻塞和死锁。
jstat -l pid,也可以通过 VisualVM 分析:
⑥发现有 2000 多个线程请求无效资源,如下图:
造成本次系统异常主要因素分析
造成本次系统异常主要因素分析如下:
在秒杀时,请求量过高,导致运用服务器负载过高。
Redis 连接池满,获取不到连接,connot get a connection from thread pool。
JDBC 连接池满,获取不到连接和超时。
存在大对象代码,如向 List 集合中不停添加对象,不能及时回收对象导致内存增加,频繁发生 Full GC。
Tomcat 并发参数,JVM 优化参数,Jedis 配置参数,JDBC 配置参数不合理。
未对请求量进行削峰和限流。
资源连接未及时释放,如 Redis 连接,JDBC 连接未及时释放。
最终解决方案
①增加运用服务,做流量削峰和分流
由于该项目未增加 MQ,因此只能采用硬负载,增加服务器水平扩展方式来实现流量削峰和流量分流:
②优化 JVM 参数,如下为本次优化后的参数:
JAVA_OPTS="-server -Xmx9g -Xms9g -Xmn3g -Xss500k -XX:+DisableExplicitGC -XX:MetaspaceSize=2048m -XX:MaxMetaspaceSize=2048m -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -Dfile.encoding=UTF8 -Duser.timezone=GMT+08"
关于这个 JVM 参数的优化,JVM 理论是怎样的,官方建议是怎样的,实战是怎样的,将在下篇文章中分析。
③优化 Tomcat 并发相关参数
主要是两方面:
修改 bio 协议为 nio2 。
根据服务器配置,业务场景,业务流量等合理设置相关参数,尽量达到最优。
关于 Tomcat 相关参数优化,在接下来的文章中分析。
④Redis 和 JDBC 参数优化
由于涉及到安全性问题,这里不列出。
⑤代码优化
代码优化如下:
优化掉大对象。
优化未及时释放的对象和连接资源。
⑥解决 000 多个线程请求无效资源问题:
在conf/context.xml增大缓存 <Resource cachingAllowed = "true" cacheMaxSize = "102400" />
最终优化结果
经过几天观察,系统平稳。
基本监控,如下图:
GC,如下图:
抽样器 CPU 和内存:
“线上商城系统高并发优化的方法教程”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注亿速云网站,小编将为大家输出更多高质量的实用文章!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。