查看redis监控的时候看到redis的graph出现不正常的情况,截图如下:
如上面截图所展示的样子,可以看到redis 的客户端连接数很突兀的上升到10K,又突然下降到0.排除了监控本身的原因,很明显是因为redis本身出了问题。
进入redis服务器,连接上去
/usr/bin/redis-cli -p 6399 -h 127.0.0.1
>127.0.0.1:6399>> info
ERR max number of clients reached
无论执行命令,显示的都是上面的那个错误。这个时候唯一想到的就是redis的客户端已经达到了最大的连接数,无法创建连接了。即redis client可以打开的文件描述符不足
1.获取得到redis:6399这个服务的PID信息
netstat -tunlp | grep 6399
2.获取redis的能够打开的最大文件描述符
cat /proc/PID/limints
可以看上述截图中Max open file这行参数可以看得到进程能够打开的最大文件描述符
3.查看进程打开的文件描述符
方法一:ll /proc/6677/fd | wc -l
方法二:lsof | grep 6399 | wc -l
通过上述方法获取得到的值是10015和10007,可以看得到redis的文件描述符已经使用完毕了。
4.因为redis-cli连接上redis之后无论如何更改出现上面的报错,但是redis server因为是作为缓存使用,不能够随随便便的重启,所以只能在客户端想办法,只能主动让客户端断开连接。所以获取得到6399端口的连接信息:
netstat -tun | grep 6399 | awk '{print $5}' | awk -F':' '{print $1}' | sort | uniq -c
8 10.143.106.95
8 10.143.90.216
5433 10.207.169.67
4788 10.221.236.76
1 10.221.244.39
6 10.225.36.189
在上面的命令可以很明显的获取得到那个IP地址连接redis服务的连接很多
5.进入连接最多的服务器,获得连接redis的客户端信息
netstat -tun | grep 6399
lsof -i:Port
根据上面俩个命令可以获得客户端的应用服务信息
6.获取得到应用服务信息之后,我们和开发商量之后,只能重启才能让客户端主动断开连接。所以直接重启了应用服务。
7.更改redis配置信息。
重启客户端之后,redis的connect也减少了一部分,这个时候可以连接上redis了。
a)获取redis的状态信息
>127.0.0.1:6399>>info
b)获取redis本地配置文件信息,最大连接数,timeout,tcp-keepalive
>127.0.0.1:6399>> config *
>127.0.0.1:6399>> config get maxclients
"10000"
>127.0.0.1:6399>> config get timeout
0
>127.0.0.1:6399>> config get tcp-keepalive
0
c)从上面命令可以看得出,最大连接数是10000,timeout和tcp-keepalive并没有开启,但是又不能重启redis-server,所以只能在线修改配置信息。
>127.0.0.1:6399>> config set maxclients=100000
OK
>127.0.0.1:6399>> config set timeout = 300
OK
做完上面措施之后,客户端连接数也已经断开。
问题产生的原因:
1.zabbix监控获取得到的值为什么是0
zabbix server上面执行
zabbix_get -s 0.0.0.0 -k 'redis[connect client,6399]'
0
原因是因为在agent段redis脚本抓取info信息的时候,对于不是数字类型的数据替换成0,所以导致zabbix 监控获取得到的数值是0
2.为什么有这么多的连接
线上的架构是
client ->VIP->server #VIP指的是负载均衡
客户端和服务的连接的中间是通过VIP进行转发的,他们直接的通信是TCP/IP四层的通信,在VIP上面本身自己是有做timeout设置的,默认20min ,它会主动的断开连接,但是却没有通知client和server端,导致client和server端并不清楚自己已经断开了连接。但是由于client的代码并没有设置主动断开连接,所以client会认为自己是一直连接的状态,等到下一次它发起请求的时候,VIP会告诉client连接已经断开,client会重新在创建一个新的连接;对于server端来说即redis它本身也没有开启timeout和tcp-keepalive的,所以server端也不会主动的断开连接,所以连接会越来越多,导致连接数完全被使用完。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。