Linux培训-优化篇

一.硬件优化

系统运行的速度是由系统中最慢的设备来决定。

选择固态硬盘：

TLC SLC（最好）MLC

优化的时候，优化离cpu最近的设备

CPU -->     CACHE  

主频：倍频 * FSB

CACHE: 高速缓冲器，提高应用程序的命中率.L1（数据区，指令区）独立->L2 独立->L3 共享

优化思路：想方设法让应用数据停留在cache中更长的时间。

应用运行过程：

DISK --> MEM --> cache --> CPU

DISK：优化IO算法

SSD： SATA3 --> PCIe -->  NVMe

二.系统层面

1.常用命令

(1).ps

自定义显示进程列

# ps axo pid,comm,pcpu

(2).vmstat

# vmstat 1 2
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 3  0    148 284184    212 663928    0    0    12     5   81  121  0  0 99  0  0
 0  0    148 284060    212 663928    0    0     0     0   96  126  0  0 100  0  0
 
r 表示运行队列(就是说多少个进程真的分配到CPU)，我测试的服务器目前CPU比较空闲，没什么程序在跑，当这个值超过了CPU数目，就会出现CPU瓶颈了。这个也和top的负载有关系，一般负载超过了3就比较高，超过了5就高，超过了10就不正常了，服务器的状态很危险。top的负载类似每秒的运行队列。如果运行队列过大，表示你的CPU很繁忙，一般会造成CPU使用率很高。
b 表示阻塞的进程,这个不多说，进程阻塞，大家懂的。
swpd 虚拟内存已使用的大小，如果大于0，表示你的机器物理内存不足了，如果不是程序内存泄露的原因，那么你该升级内存了或者把耗内存的任务迁移到其他机器。
free   空闲的物理内存的大小，我的机器内存总共8G，剩余3415M。
buff   Linux/Unix系统是用来存储，目录里面有什么内容，权限等的缓存，我本机大概占用300多M
cache cache直接用来记忆我们打开的文件,给文件做缓冲，我本机大概占用300多M(这里是Linux/Unix的聪明之处，把空闲的物理内存的一部分拿来做文件和目录的缓存，是为了提高 程序执行的性能，当程序使用内存时，buffer/cached会很快地被使用。)
si  每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。我的机器内存充裕，一切正常。
so  每秒虚拟内存写入磁盘的大小，如果这个值大于0，同上。
bi  块设备每秒接收的块数量，这里的块设备是指系统上所有的磁盘和其他块设备，默认块大小是1024byte，我本机上没什么IO操作，所以一直是0，但是我曾在处理拷贝大量数据(2-3T)的机器上看过可以达到140000/s，磁盘写入速度差不多140M每秒
bo 块设备每秒发送的块数量，例如我们读取文件，bo就要大于0。bi和bo一般都要接近0，不然就是IO过于频繁，需要调整。
in 每秒CPU的中断次数，包括时间中断
cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目,例如在apache和nginx这种web服务器中，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择web服务器的进程可以由进程或者线程的峰值一直下调，压测，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了。系统调用也是，每次调用系统函数，我们的代码就会进入内核空间，导致上下文切换，这个是很耗资源，也要尽量避免频繁调用系统函数。上下文切换次数过多表示你的CPU大部分浪费在上下文切换，导致CPU干正经事的时间少了，CPU没有充分利用，是不可取的。
us 用户CPU时间，我曾经在一个做加密解密很频繁的服务器上，可以看到us接近100,r运行队列达到80(机器在做压力测试，性能表现不佳)。
sy 系统CPU时间，如果太高，表示系统调用时间长，例如是IO操作频繁。
id  空闲 CPU时间，一般来说，id + us + sy = 100,一般我认为id是空闲CPU使用率，us是用户CPU使用率，sy是系统CPU使用率。
wt 等待IO CPU时间。

(3).iostat

# iostat
Linux 3.10.0-693.el7.x86_64 (rh2)       08/02/2018      _x86_64_        (1 CPU)
avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.20    0.01    0.32    0.01    0.00   99.46
Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
sda               0.87        12.23         5.24     898971     385228
scd0              0.00         0.01         0.00       1054          0
dm-0              0.86        11.76         5.21     864302     383008
dm-1              0.00         0.03         0.00       2228        152

avg-cpu:

Device:

# iostat -x
Linux 3.10.0-693.el7.x86_64 (rh2)       08/02/2018      _x86_64_        (1 CPU)
avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.20    0.01    0.32    0.01    0.00   99.46
Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00     0.02    0.24    0.63    12.23     5.24    40.10     0.00    0.88    1.18    0.77   0.31   0.03
scd0              0.00     0.00    0.00    0.00     0.01     0.00    68.00     0.00    0.35    0.35    0.00   0.35   0.00
dm-0              0.00     0.00    0.21    0.64    11.75     5.21    39.57     0.00    0.94    1.33    0.80   0.31   0.03
dm-1              0.00     0.00    0.00    0.00     0.03     0.00    36.06     0.00    7.01    0.05   24.21   1.21   0.00

(4).mpstat

查看多核cpu ，可以显示每个核心cpu的运行情况。 vmstat 只能显示总体的cpu

# mpstat -P ALL
Linux 3.10.0-693.el7.x86_64 (rh2)       08/02/2018      _x86_64_        (1 CPU)
10:13:33 PM  CPU    %usr   %nice    %sys %iowait    %irq   %soft  %steal  %guest  %gnice   %idle
10:13:33 PM  all    0.20    0.01    0.32    0.01    0.00    0.01    0.00    0.00    0.00   99.46
10:13:33 PM    0    0.20    0.01    0.32    0.01    0.00    0.01    0.00    0.00    0.00   99.46

(5).

# time ls

real    0m0.006s

user    0m0.000s

sys     0m0.005s

* 0.001s 为等待时间

(6).sar

sar 日志存储目录

cd /var/log/sa

# sar -f sa31       #默认cpu
# sar -f sa31 -b    #查看磁盘
# sar -q -f sa31    #查看队列
# sar -q -f sa31 |awk '{print $3}' |sort -unr                    #最大队列的进程号
# sar -d -p -f sa31 |awk '{print $2,$4}' |grep ^sd |sort -unr    #哪个设备的读取速率最高
# sar -n DEV        #查看网络吞吐量
# sar -r 1 1        #内存和swap使用情况

(7).dmidecode

查看详细的硬件信息

(8).lspci,lscpu,lsusb,lsscsi,lsblk

查看各种硬件信息命令

(9).dmesg

- 记录系统启动时候的硬件相关信息,启动后该日志文件不再更新

/var/log/dmesg

- 查看系统启动后加载的硬件信息，需要查看dmesg

2.sysctl

(1).sysctl -a     #显示当前可调整的所有参数

(2).修改配置文件，调整参数

vim /etc/sysctl.conf 老版本

vim /etc/sysctl.d/10-sysctl.conf  新版本

(3).sysctl -p /etc/sysctl.d/10-sysctl.conf  

使参数永久生效

3.swap

swap可以是文件也可以是磁盘分区，最多可以有32个，每个最大64G

性能考虑：

避免 swap 文件

将 swap 分区分速度快的介质上

多个小的 swap 效果要比一个大的 swap 效果好 设置 swap 优先级别

4.内核IO调度器

-NooP Scheduler

适用于随机访问设备，如闪盘 FIFO ，基本合并与排序 适用于嵌入式操作系统

-Anticipatory I/O Scheduler 

内核默认的调度器

不适用于数据吞吐量大的数据库系统

-DeadLine Io调度器

提升 IO 性能的同时避免 IO等待

保证既定的IO请求最小的延迟时间

-CFQ I/O Schedulere

RHEL 默认的调度器 IO请求轮询进行，为应用平均分配带宽，提供一个平等的工作环境

(1).临时修改

[root@rh2 ~]# cat /sys/block/sda/queue/scheduler

noop [deadline] cfq 

[root@rh2 ~]# echo cfq>/sys/block/sda/queue/scheduler

[root@rh2 ~]# cat /sys/block/sda/queue/scheduler

noop deadline [cfq] 

(2).修改所有的配置

修改 grub.conf 
#boot=/dev/hda
default=0 
timeout=5
splashimage=(hd0,0)/grub/splash.xpm.gz
hiddenmenu
title Red Hat Enterprise Linux Server (2.6.18-8.el5)
root (hd0,0)
kernel /vmlinuz-2.6.18-8.el5 ro root=LABEL=/ rhgb quiet elevator=deadline initrd /initrd-2.6.18-8.el5.img

(3).tuned-adm

5.内存优化

相关参数：

vm.dirty_expire_centisecs = 3000   #旧数据的回写时间，30秒后脏页要回写到磁盘
vm.dirty_background_ratio = 10     #整个系统脏页百分比超过10，则进行刷脏页
vm.dirty_ratio = 30                #整个脏页达到内存的30%时，则进行刷脏页
vm.dirty_writeback_centisecs = 500 #刷新脏数据进程的时间间隔
vm.swappiness=30                   #使用内存还是swap的倾向值

6.网络优化

BDP 带宽延迟乘积

计算公式(字节) = 带宽(MB)x 延时 (s)x1024x1024/8

相关参数：

net.ipv4.tcp_mem = 194976 259968 389952
net.ipv4.tcp_wmem = 4096  16384 4194304
net.ipv4.tcp_rmem = 4096  87380 4194304
net.ipv4.udp_mem = 194976 259968 389952
net.core.wmem_max = 131071 
net.core.rmem_max = 131071 
net.core.wmem_default = 110592 
net.core.rmem_default = 110592