rsync远程同步（理论+实践篇）

关于rsync

一款快速增量备份工具

• Remote Sync,远程同步
• 支持本地复制，或者与其他SsH、rsync 主机同步
• 官方网站: http://rsync.samba.org

配置rsync源服务器

rsync同步源

• 指备份操作的远程服务器，也称为备份源

配置rsync源

• 基本思路
  • 建立rsyncd.conf配置文件、独立的账号文件
  • 启用rsync的-daemon模式
• 应用示例
  • 用户backuper, 允许下行同步
  • 操作的目录为/var/www/html/
• 配置文件rsyncd.conf
  • 需手动建立，语法类似于Samba配置
  • 认证配置auth users、secrets file, 不加则为匿名
• rsync账号文件
  • 采用"用户名:密码”的记录格式，每行一个用户记录
  • 独立的账号数据，不依赖于系统账号
• 启用rsync服务
  • 通过--daemon独自提供服务
  • 执行kill $(cat /var/run/rsyncd.pid)关闭rsync服务

使用rsync备份工具

rsync命令用法

• rsync [选项] 原始位置 目标位置
• 常用选项
  • -a:归档模式，递归并保留对象属性，等同于-rlptgoD
  • -v:示同步过程的详细(verbose)信息
  • -z:在传输文件时进行压缩(compress)
  • -H:保留硬连接文件
  • -A:保留ACL属性信息
  • --delete:删除目标位置有而原始位置没有的文件
  • --checksum:根据对象的校验和来决定是否跳过文件
• 配置源的两种表示方法
  • 格式1: 用户名@主机地址::共享模块名
  • 格式2: rsync://用户名@主机地址/共享模块名

rsync实时同步

定期同步的不足

• 执行备份的时间固定，延迟明显、实时性差
• 当同步源长期不变化时，密集的定期任务是不必要的

实时同步的优点

• 一旦同步源出现变化，立即启动备份
• 只要同步源无变化，则不执行备份

关于inotify

Linux内核的inotify机制

• 从版本2.6.144开始提供
• 可以监控文件系统的变动情况，并作出通知响应
• 辅助软件: inotify-tools

rsync+inotify实时同步

• 调整inotify内核参数
  • max_queue_events: 监控队列大小
  • max_user_instances: 最多监控实例数
  • max_user_watches:每个实例最多监控文件数，配置时应大于监控目标的总文件数
• 安装inotify-tools辅助工具
  • inotifywait:用于持续监控,实时输出结果
  • 常用选项
  • -m：持续进行监控
  • -r：递归监控所有子对象
  • -q：简化输出信息
  • -e：指定要监控哪些事件类型
  • inotifwatch:用于短期监控，任务完成后再出结果
• 通过inotifywait触发rsync同步操作
  • 使用while、read持续获取监控结果
  • 根据结果可以作进一 步判断，决定执行何种操作

实践配置

实验环境

• rsyncd服务器IP地址：192.168.144.128
• client客户端IP地址：192.168.144.129

在rsyncd服务器上修改配置文件

[root@rsyncd ~]# rpm -q rsync
rsync-3.0.9-18.el7.x86_64
[root@rsyncd ~]# vim /etc/rsyncd.conf

uid = nobody           //匿名用户
gid = nobody
use chroot = yes         //禁锢家目录
pid file = /var/run/rsyncd.pid        //pid文件路径
address = 192.168.144.128                //配置监听地址
port = 873                        //端口号
log file = /var/log/rsyncd.log      //日志文件路径
hosts allow = 192.168.144.0/24         //允许地址段访问
dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2   //不需要压缩的类型

[wwwroot]           //共享模块名
path = /var/www/html        //共享文件路径
comment = www.kgc.com      //定义名称
read only = yes            //只读权限
auth users = backuper       //身份验证用户名
secrets file = /etc/rsyncd_users.db        //密码文件
:wq
[root@rsyncd ~]# vim /etc/rsyncd_users.db      //创建密码文件
backuper:123123       //编辑用户名：密码
:wq
[root@rsyncd ~]# chmod 600 /etc/rsyncd_users.db       //更改权限
[root@rsyncd ~]# rsync --daemon                    //开启rsync服务
[root@rsyncd ~]# netstat -ntap | grep rsync         //查看端口
tcp     0     0 192.168.144.128:873      0.0.0.0:*    LISTEN    36346/rsync 
[root@rsyncd ~]# systemctl stop firewalld.service       //关闭防火墙
[root@rsyncd ~]# setenforce 0
[root@rsyncd ~]# yum install httpd -y           //安装httpd服务
[root@rsyncd ~]# cd /var/www/html/
[root@rsyncd html]# echo "this is test web" > index.html      //编辑网页信息
[root@rsyncd html]# cd ../
[root@rsyncd www]# chmod 777 html/          //放开目录权限，方便用户操作

在客户端服务器上，拉取同步源rsyncd

[root@client ~]# systemctl stop firewalld.service      //关闭防火墙
[root@client ~]# setenforce 0                      //关闭selinux
[root@client ~]# rpm -q rsync               //检查是否安装rsync服务
rsync-3.0.9-18.el7.x86_64
[root@client ~]# yum install httpd -y         //安装httpd服务
[root@client ~]# cd /var/www/
[root@client www]# chmod 777 html/               //放开目录权限
[root@client www]# rsync -avz backuper@192.168.144.128::wwwroot /var/www/html      //拉取共享模块
Password:                        //输入密码  
[root@client www]# cat html/index.html          //查看是否同步信息
this is test web
[root@client www]# rm -rf html/index.html 
[root@client www]# vim /etc/server.pass      //创建本地的密码文件
123123
[root@client www]# chmod 600 /etc/server.pass       //更改权限
[root@client www]# rsync -avz --delete --password-file=/etc/server.pass backuper@192.168.144.128::wwwroot /var/www/html/         //指定本地密码文件，删除目标位置有而原始位置没有的文件，实现免交互

在client客户端上安装inotify（监控）

[root@client www]# vim /etc/sysctl.conf        //修改内核参数文件
fs.inotify.max_queued_events = 16384       //队列
fs.inotify.max_user_instances = 1024        //每个队列中的实例数
fs.inotify.max_user_watches = 1048576      //每个实例中的文件数
[root@client www]# sysctl -p  ##加载
[root@client www]# mount.cifs //192.168.100.8/LNMP-C7 /mnt/    //挂载
Password for root@//192.168.100.3/LNMP-C7:  
[root@client www]# cd /mnt/
[root@client mnt]# tar zxvf inotify-tools-3.14.tar.gz -C /opt/     //解压inotify到/opt下
[root@client mnt]# cd /opt/
[root@client opt]# cd inotify-tools-3.14/
[root@client inotify-tools-3.14]# yum install gcc gcc-c++ make -y    //安装环境
[root@client inotify-tools-3.14]# ./configure              //配置
[root@client inotify-tools-3.14]# make && make install     //编译安装
[root@client inotify-tools-3.14]# inotifywait -mrq -e modify,create,move,delete /var/www/html/          //启动监控

重新开启一个客户机的终端

[root@client ~]# cd /var/www/html/
[root@client html]# touch abc
[root@client html]# rm -rf abc

回到开启监控的终端查看

/var/www/html/ CREATE abc
/var/www/html/ DELETE abc    //显示监控信息

在client客户机创建脚本，通过inotifywait触发rsync同步操作脚本

[root@client inotify-tools-3.14]# cd /opt/
[root@client opt]# vim inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,move,delete /var/www/html/"
RSYNC_CMD="rsync -avz --delete --password-file=/etc/server.pass /var/www/html/ backuper@192.168.144.128::wwwroot/"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
 do
     if [ $(pgrep rsync | wc -l) -le 0 ]; then
            $RSYNC_CMD
     fi
done
[root@client opt]# chmod +x inotify.sh    //添加执行权限

在rsyncd服务器上修改配置文件

[root@rsyncd www]# vim /etc/rsyncd.conf
read only = no         //关闭只读权限
[root@rsyncd www]# netstat -natp | grep rsync
tcp     0    0 192.168.144.128:873    0.0.0.0:*      LISTEN      36346/rsync         
[root@rsyncd www]# kill -9 36346       //关闭服务
[root@rsyncd www]# netstat -natp | grep rsync
[root@rsyncd www]# rm -rf /var/run/rsyncd.pid      //删除pid文件
[root@rsyncd www]# rsync --daemon              //重新开启rsync服务

在client客户机上执行inotify脚本文件

[root@client opt]# ./inotify.sh

重新开启一个client客户机终端

[root@client html]# echo "this is test" > test.txt      //添加文本

查看开启监控服务终端信息

[root@client opt]# ./inotify.sh 
sending incremental file list
./
rsync: failed to set times on "/." (in wwwroot): Operation not permitted (1)
test.txt

sent 121 bytes  received 30 bytes  302.00 bytes/sec
total size is 30  speedup is 0.20
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1052) [sender=3.0.9]
sending incremental file list

sent 66 bytes  received 8 bytes  148.00 bytes/sec
total size is 30  speedup is 0.41

在rsync服务器上查看

[root@rsyncd www]# cd html/
[root@rsyncd html]# ls
index.html  test.txt       //实现同步