Rsync备份服务实战
1.Rsync基本概述
rsync是一款开源的备份工具，可以在不同主机之间进行同步，可实现全量备份与增量备份，因此非常适合用于架构集中式备份或异地备份等应用。
rsync官方地址：https://rsync.samba.org/
rsync监听端口：873
rsync运行模式：C/S
rsync常见的两种备份方式
- 完全备份
- 增量备份
假设客户端上有file1 file2 file3文件，服务端上有file1文件，现要将客户端上的数据备份至服务端
完全备份，将客户端所有的数据内容file1 file2 file3全部备份至服务端 (效率低下, 占用空间)
增量备份，将客户端的file2 file3增量备份至服务端 (提高备份效率,节省空间, 适合异地备份 )
2.Rsync应用场景
关于数据同步的两种方式
1.推: 所有主机推送本地数据至Rsync备份服务器，会导致数据同步缓慢(适合少量数据备份)
2.拉: rsync备份服务端拉取所有主机上的数据，会导致备份服务器开销大
3.大量服务器备份场景
4.异地备份实现思路
3.Rsync传输模式
Rsync大致使用三种主要的数据传输方式
- 本地方式
- 远程方式
- 守护进程
//Local: 本地传输
rsync [OPTION...] SRC... [DEST]
Access via remote shell: 远程通道传输
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
Access via rsync daemon: 守护进程方式传输
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
Rsync命令对应选项
-a #归档模式传输, 等于-tropgDl
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-r #递归传输目录及子目录，即目录下得所有目录都同样传输。
-t #保持文件时间信息
-o #保持文件属主信息
-p #保持文件权限
-g #保持文件属组信息
-l #保留软连接
-P #显示同步的过程及传输时的进度等信息
-D #保持设备文件信息
-L #保留软连接指向的目标文件
-e #使用的信道协议,指定替代rsh的shell程序
--exclude=PATTERN #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100 #限速传输
--partial #断点续传
--delete #让目标目录和源目录数据保持一致
1.本地传输方式: 单个主机本地之间的数据传输(此时类似于cp命令)
Local: rsync [OPTION...] SRC... [DEST] #本地
rsync ---备份命令(cp)
[options] ---选项
SRC... ---本地源文件
[DEST] ---本地目标文件
rsync -avz /etc/passwd /tmp/
#命令 选项 源文件 目标
2.远程通道传输方式: 通过ssh通道传输数据,类似scp命令
#1.使用rsync命令下载`172.16.1.41`主机上/root目录下的oldboyedu.com文件，下载至本地的当前目录
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync -avz [email protected]:/root/oldboyedu.com ./
rsync -avz [email protected]:/root/ /backup/ #拉取远程目录下的所有文件
rsync -avz [email protected]:/root /backup/ #拉取远程目录以及目录下的所有文件
Pull #拉取, 下载
rsync #备份命令
[options] #选项
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
SRC... #目标主机源文件
[DEST] #下载至本地哪个位置
#2.将本地/backup/2018-07-23这个目录以及目录下的内容，推送至于41服务器的/tmp目录下
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
rsync -avz /backup/2018-07-23 [email protected]:/tmp/
Push #推，上传
rsync #备份命令
[options] #选项
SRC... #本地源文件
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
[DEST] #目标对应位置
远程通道传输方式问题
- 必须通过ssh协议才可以传输
- 使用ssh系统用户，不安全> *
3.守护进程传输方式: rsync自身非常重要的功能(不使用系统用户，更加安全)
---1.拉取rsync备份服务的backup模块数据至本地/mnt目录
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
[root@nfs01 ~]# rsync -avz [email protected]::backup/ /mnt/ --password-file=/etc/rsync.password
rsync ---命令
[OPTION...] ---选项
[USER@] ---远程主机用户(虚拟用户)
HOST:: ---远程主机地址
SRC... ---远程主机模块(不是目录)
[DEST] ---将远程主机数据备份至本地什么位置
---2.将本地/mnt目录推送至rsync备份服务器的backup模块
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
[root@nfs01 ~]# rsync -avz /mnt/ [email protected]::backup/ --password-file=/etc/rsync.password
rsync ---命令
[OPTION...] ---选项
SRC... ---远程主机模块(不是目录)
[USER@] ---远程主机用户(虚拟用户)
HOST:: ---远程主机地址
[DEST] ---将远程主机模块备份至本地什么位置
4.Rsync服务实践
角色 外网IP(NAT) 内网IP(LAN) 主机名 Rsync服务端 eth0:10.0.0.41 eth1:172.16.1.41 backup Rsync客户端 eth0:10.0.0.31 eth1:172.16.1.31 nfs 1.第一个里程碑，安装rsync软件
[root@backup ~]# yum -y install rsync
2.第二个里程碑，配置/etc/rsyncd.conf[root@backup ~]# cat /etc/rsyncd.conf uid = rsync gid = rsync port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.password log file = /var/log/rsyncd.log ##################################### [backup] comment = welcome to oldboyedu backup! path = /backup [root@backup ~]# vim /etc/rsyncd.conf # 全局模块 uid = rsync --- 运行进程的用户 gid = rsync --- 运行进程的用户组 port = 873 --- 监听端口 fake super = yes --- 无需让rsync以root身份运行，允许存储文件的完整属性 use chroot = no --- 关闭假根功能 max connections = 200 --- 最大连接数 timeout = 600 --- 超时时间 ignore errors --- 忽略错误信息 read only = false --- 对备份数据可读写 list = false --- 不允许查看模块信息 auth users = rsync_backup --- 定义虚拟用户，作为连接认证用户 secrets file = /etc/rsync.passwd---定义rsync服务用户连接认证密码文件路径 ##局部模块 [backup] --- 定义模块信息 comment = commit --- 模块注释信息 path = /backup --- 定义接收备份数据目录3.第三个里程碑，创建用户(运行rsync服务的用户身份)
#1.创建rsync账户，不允许登录不创建家目录 [root@backup ~]# useradd -M -s /sbin/nologin rsync #2.创建备份目录(尽可能磁盘空间足够大),授权rsync用户为属主 [root@backup ~]# mkdir /backup [root@backup ~]# chown -R rsync.rsync /backup/4.第四个里程碑，创建虚拟用户密码文件(用于客户端连接时使用的用户)
#3.创建虚拟用户和密码,并赋予600权限 [root@backup ~]# echo "rsync_backup:xuliangwei" >/etc/rsync.password [root@backup ~]# chmod 600 /etc/rsync.password5.第五个里程碑，启动rsync服务，并加入开机自启
[root@backup ~]# systemctl start rsyncd [root@backup ~]# systemctl enable rsyncd 启动后检查对应端口 [root@bogon ~]# netstat -lntp Active Internet connections (only servers) Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 4758/rsync6.第六个里程碑，Rsync客户端配置, 配置密码并设置权限
方式一：适合终端执行指定用户密码文件 [root@nfs01 ~]# yum install rsync -y [root@nfs01 ~]# echo "xuliangwei" > /etc/rsync.password [root@nfs01 ~]# chmod 600 /etc/rsync.password 方式二：适合写脚本，强烈推荐方式 [root@nfs01 ~]# export RSYNC_PASSWORD=123456实战一: 客户端推送数据至Rsync服务端
[root@nfs01 ~]# rsync -avz /backup/ [email protected]::backup/ --password-file=/etc/rsync.password实战二: 客户端拉取Rsync服务端数据至本地
[root@nfs01 ~]#rsync -avz [email protected]::backup /backup/ --password-file=/etc/rsync.password实战三: Rsync实现数据无差异同步
//拉取远端数据：远端与本地保持一致,远端没有本地有会被删除, 造成客户端数据丢失 [root@nfs01 ~]# rsync -avz --delete [email protected]::backup/ /data/ --password-file=/etc/rsync.password //推送数据至远端：本地与远端保持一致, 本地没有远端会被删除, 造成服务器端数据丢失 [root@nfs01 ~]# rsync -avz --delete /data/ [email protected]::backup/ --password-file=/etc/rsync.password5.Rsync备份案例
已知 3 台服务器主机名分别为 web01、backup 、nfs，主机信息见下表:
角色 外网IP(NAT) 内网IP(LAN) 主机名 WEB eth0:10.0.0.7 eth1:172.16.1.7 web01 NFS eth0:10.0.0.31 eth1:172.16.1.31 nfs01 Rsync eth0:10.0.0.41 eth1:172.16.1.41 backup 客户端需求
- 1.客户端每天凌晨01点在服务器本地打包备份(系统配置文件、日志文件、其他目录、应用配置等文件)
- 2.客户端备份的数据必须存放至以主机名_IP地址_当前时间命名的目录中, 例/backup/nfs-server_172.16.1.31_2018-09-02
- 3.客户端最后通过rsync推送本地已打包好的备份文件至backup服务器
- 4.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间
服务端需求
- 1.服务端部署rsync，用于接收客户端推送过来的备份数据
- 2.服务端需要每天校验客户端推送过来的数据是否完整
- 3.服务端需要每天校验的结果通知给管理员
- 4.服务端仅保留6个月的备份数据,其余的全部删除
- 注意：所有服务器的备份目录必须都为/backup
建议备份的数据内容如下
//1.配置文件 //开机自启动配置文件 设备挂载配置文件 本地内网配置文件 /etc/rc.local /etc/fstab /etc/hosts //2.重要目录 //cron定时任务 firewalld防火墙 脚本目录 /var/spool/cron/ /etc/firewalld /server/scripts //3.系统日志文件 /var/log/ //系统安全日志、sudo日志、内核日志、rsyslog日志 //4.应用程序日志 nginx、PHP、mysql、redis..... //自己思考下还有什么需要备份的?1.客户端备份脚本实现思路[low版]
[root@nfs01 backup]# cat /server/scripts/backup_rsync.sh #!/bin/bash #1.定义变量 Path=/backup Host=$(hostname) Addr=$(ifconfig eth1|awk 'NR==2{print $2}') Date=$(date +%F) Dest=${Path}/${Host}_${Addr}_${Date} #2.检查目录是否存在 [ -d $Dest ] || mkdir -p $Dest #3.拷贝需要备份的文件至$Dest # system backup cp -rp /etc/passwd /etc/fstab /etc/rc.d/rc.local /var/spool/cron $Dest/ # user backup cp -rp /server/ $Dest/ # config backup cp -rp /etc/rsyncd.conf $Dest/ #4.推送至备份服务端 Rsync_User=rsync_backup Rsync_Addr=172.16.1.41 Rsync_Module=backup export RSYNC_PASSWORD=123456 rsync -avz $Path/ ${Rsync_User}@${Rsync_Addr}::${Rsync_Module} #5.保留本地最近7天的文件 find $Path/ -type d -mtime +7 -exec rm -rf {} \;2.客户端备份脚本实现思路,并将客户端备份的数据进行md5加密[优化版]
#脚本不可重复执行, 每次执行都会进行推送,可以进行判断 [root@nfs01 ~]# cat /server/scripts/backup_rsync_md5.sh #!/bin/bash #1.定义变量 Path=/backup Host=$(hostname) Addr=$(ifconfig eth1|awk 'NR==2{print $2}') Date=$(date +%F) Dest=${Path}/${Host}_${Addr}_${Date} #2.检查目录是否存在 [ -d $Dest ] || mkdir -p $Dest #3.拷贝需要备份的文件至$Dest cd / && \ # system backup tar czf $Dest/system.tar.gz etc/passwd etc/fstab etc/rc.d/rc.local var/spool/cron # user backup tar czf $Dest/user.tar.gz server/ # config backup tar czf $Dest/config.tar.gz etc/rsyncd.conf #4.进行md5校验 md5sum $Dest/*.tar.gz > $Dest/flag_${Date} #5.客户端推送至rsync备份服务端 Rsync_User=rsync_backup Rsync_Addr=172.16.1.41 Rsync_Module=backup export RSYNC_PASSWORD=123456 rsync -avz $Path/ ${Rsync_User}@${Rsync_Addr}::${Rsync_Module} #6.客户端本地保留最近7天的文件 find $Path/ -type d -mtime +7|xargs rm -rf3.客户端编写定时任务,让备份每天凌晨1点进行备份
[root@nfs01 ~]# crontab -l 00 01 * * * /bin/bash /server/scripts/backup_rsync.sh &>/dev/null4.服务端校验客户端数据, 并将结果以邮件方式发给管理员
1).服务端实现邮件功能
[root@backup /]# yum install mailx -y [root@backup /]# vim /etc/mail.rc set [email protected] set smtp=smtps://smtp.qq.com:465 set [email protected] set smtp-auth-password= #客户端授权码 set smtp-auth=login set ssl-verify=ignore set nss-config-dir=/etc/pki/nssdb/2).服务端使用md5校验客户端数据,并将检查结果发送给管理员
[root@backup ~]# cat /server/scripts/check_backup.sh #/usr/bin/bash Path=/backup Date=$(date +%F) #1.校验数据 find $Path -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_$Date #2.通知管理员 mail -s "Rsync_backup $(date +%F)" [email protected] <$Path/result_$Date #3.保留最近6个月的数据 #flag mtime 3day find $Path/ -type f -name "result*" -mtime +3 -exec rm -f {} \; #date mtime 180day find $Path/ -type d -mtime +180|xargs rm -rf3).服务端编写定时任务脚本
[root@backup backup]# crontab -l 00 05 * * * /bin/bash /server/scripts/check_backup.sh &>/dev/null6.Rsync备份思考
1.要备份什么？
WEB APP部署程序配置文件 MYSQL数据库部署程序及其配置文件 MySQL数据文件 MySQK的binlog日志、慢查询日志、错误日志 系统的安全日志、内核的日志、sudo日志、rsyslog日志 应用程序日志 access.log error.log 静态数据文件 //备份目录如何规划，如果之前备份规划是这个样子的？ /usr/local/nginx /opt/mysql /etc/php /etc/my.cnf //如果服务器规划是这个样子 /soft/webapp/nginx /soft/webapp/apache /soft/webapp/tomcat /soft/scripts/crond_nginx.sh /soft/scripts/crond_rsync.sh /data/mysql/mysql3306/{data,logs,conf,tmp} /data/mysql/mysql3307/{data,logs,conf,tmp} /data/mysql/mysql3308/{data,logs,conf,tmp}思考2：如何备份？
1.根据时间维护划分 实时备份（同步备份） 非实时备份（异步备份） 2.根据地域划分 同IDC备份部署 跨IDC备份部署 本地->云主机->异地主机备份3：备份可恢复性？
时间成本 维护成本 备份4：备份策略 备份保留时间？ 1个月, 1年或永久？ 备份恢复校验 1个月模拟一次，半年演练一次？ 这里牵扯到备份有效性和备份时效性的一个校验。 万一备份服务器挂了怎么办? 备份之后是否还有备份