rsync英文称为remote synchronizetion,从软件的名称就可以看出来,rsync具有可使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能,这个功能类似于ssh带的scp命令,但是又优于scp命令的功能,scp每次都是全量拷贝,而rsync可以增量拷贝。当然,rsync还可以在本地主机的不同分区或目录之间全量及曾量的复制数据,这又类似cp命令。但是同样也优于cp命令,cp每次都是全量拷贝,而rsync可以增量拷贝。
在同步数据的时候,默认情况下,rsync通过其独特的"quick check"算法,它仅同步大小或者最后修改时间发生变化的文件或目录,当然也可根据权限、属主等属性的变化同步,但是需要制定相应的参数,甚至可以实现只同步一个文件里有变化的内容部分,所以,可是实现快速的同步备份数据。
rsync监听端口:873
rsync运行模式:C/S
注意:
利用rsync还可以实现删除文件和目录的功能,这又相当于rm命令,一个rsync相当于scp、cp、rm,但是还优于他们的每一个命令。
1.借助cron+rsync把所有客户服务器数据同步到备份服务器。
2.针对公司重要数据备份混乱状况和领导提出备份全网数据的解决方案。
3.通过本地打包备份,然后rsync结合inotify应用把全网数统一备份到一个固定存储服务器,然后在存储服务器上通过脚本检查并报警管理员备份结果。
4.定期将IDC机房的数据 备份公司的内部服务器,防止机房地震及火灾问题导致数据丢失。
5.实时同步,解决存储服务器等的单点问题。
顾名思义如果数据有变更,则把全部数据上传到备份服务器
只上传变更过的数据
本地方式
远程方式
守护进程方式
单个主机本地之间的数据传输(此时类似于cp命令)
#本地拷贝数据命令
Local: rsync [OPTION...] SRC... [DEST]
#本地拷贝数据示例
[root@rsync_backup ~]# rsync -avz /etc/passwd /opt/
sending incremental file list
passwd
sent 572 bytes received 35 bytes 1,214.00 bytes/sec
total size is 1,126 speedup is 1.86
[root@rsync_backup ~]# ll /opt/
total 4
-rw-r--r-- 1 root root 1126 Feb 25 18:26 passwd
rsync #备份命令(cp)
[options] #选项
SRC... #本地源文件
[DEST] #本地目标文件
#pull拉取数据命令
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
#pull拉取数据示例
[root@rsync_backup ~]# rsync -avz root@10.0.0.200:/etc/passwd ./ #拉取远程目录下的文件
[root@rsync_backup ~]# rsync -avz root@10.0.0.200:/root/ ./ #拉取远程目录下的所有文件
[root@rsync_backup ~]# rsync -avz root@10.0.0.200:/root ./ #拉取远程目录以及目录下的所有文件
Pull #拉取, 下载
rsync #备份命令
[options] #选项
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
SRC... #目标主机源文件
[DEST] #下载至本地哪个位置
#push推送数据命令
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
#push推送数据示例
[root@rsync_backup ~]# rsync -avz 1.txt root@10.0.0.200:/opt/
Push #推送, 上传
rsync #备份命令
[options] #选项
SRC... #本地源文件
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
[DEST] #目标对应位置
Rsync借助SSH协议同步数据存在的缺陷
rsync自身非常重要的功能(不使用系统用户,更加安全)
#pull拉取数据命令
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
#1.拉取rsync备份服务的"backup模块"数据至本地/mnt目录
rsync -avz rsync_backup@10.0.0.200::backup/ /mnt/ --password-file=/etc/rsync.password
rsync #命令
[OPTION...] #选项
[USER@] #远程主机用户(虚拟用户)
HOST:: #远程主机地址
SRC... #远程主机模块(不是目录)
[DEST] #将远程主机数据备份至本地什么位置
#push推送数据命令
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
#2.将本地/mnt目录推送至rsync备份服务器的backup模块
rsync -avz /mnt/ rsync_backup@10.0.0.200::backup/ --password-file=/etc/rsync.password
rsync #命令
[OPTION...] #选项
SRC... #远程主机模块(不是目录)
[USER@] #远程主机用户(虚拟用户)
HOST:: #远程主机地址
[DEST] #将远程主机模块备份至本地什么位置
-a #归档模式传输, 等于-tropgDl
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-r #递归传输目录及子目录,即目录下得所有目录都同样传输。
-t #保持文件时间信息
-o #保持文件属主信息
-p #保持文件权限
-g #保持文件属组信息
-l #保留软连接
-P #显示同步的过程及传输时的进度等信息
-D #保持设备文件信息
-L #保留软连接指向的目标文件
-e #使用的信道协议,指定替代rsh的shell程序
--exclude=PATTERN #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100 #限速传输
--partial #断点续传
--delete #让目标目录和源目录数据保持一致
--password-file=xxx #使用密码文件
主机角色 | 外网ip | 内网ip | 主机名称 |
rsync服务端 | 10.0.0.211 | 172.16.1.11 | rsync_backup |
rsync客户端 | 10.0.0.200 | 172.16.1.10 | sunedu |
[root@rsync_backup ~]# yum -y install rsync
[root@rsync_backup ~]# vim /etc/rsyncd.conf
uid = rsync # 运行进程的用户
gid = rsync # 运行进程的用户组
port = 873 # 监听端口
fake super = yes # 无需让rsync以root身份运行,允许接收文件的完整属性
use chroot = no # 禁锢推送的数据至某个目录, 不允许跳出该目录
max connections = 200 # 最大连接数
timeout = 600 # 超时时间
ignore errors # 忽略错误信息
read only = false # 对备份数据可读写
list = false # 不允许查看模块信息
auth users = rsync_backup # 定义虚拟用户,作为连接认证用户
secrets file = /etc/rsync.passwd # 定义rsync服务用户连接认证密码文件路径
log file = /var/log/rsyncd.log # rsyncd服务日志存放位置
[backup] # 定义模块信息
comment = commit # 模块注释信息
path = /backup # 定义接收备份数据目录
创建一个用来运行rsync服务的用户身份
#1) 创建rsync账户,不允许登录不创建家目录
[root@rsync_backup ~]# useradd -M -s /sbin/nologin rsync
#2) 创建备份目录(尽可能磁盘空间足够大),授权rsync用户为属主
[root@rsync_backup ~]# mkdir /backup
[root@rsync_backup ~]# chown -R rsync.rsync /backup/
创建虚拟用户密码文件, 授权600安全权限(用于客户端连接时使用的用户)
[root@rsync_backup ~]# echo "rsync_bakcup:123456" > /etc/rsync.passwd
[root@rsync_backup ~]# chmod 600 /etc/rsync.passwd
启动rsync服务,并将rsync加入开机自启动
[root@rsync_backup ~]# systemctl start rsyncd
[root@rsync_backup ~]# systemctl enable rsyncd
Created symlink from /etc/systemd/system/multi-user.target.wants/rsyncd.service to /usr/lib/systemd/system/rsyncd.service.
[root@rsync_backup ~]# netstat -lntup
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 16910/rsync
Rsync客户端仅需配置虚拟用户的密码,并授权为600安全权限
# 方式一:适合终端执行指定用户密码文件
[root@sunedu ~]# yum -y install rsync
[root@sunedu ~]# echo "123456" >/etc/rsync.pass
[root@sunedu ~]# chmod 600 /etc/rsync.pass
# 方式二:脚本中使用,强烈推荐方式
[root@sunedu ~]# export RSYNC_PASSWORD=123456
[root@sunedu ~]# rsync -avz /root/ rsync_backup@10.0.0.211::backup
[root@sunedu ~]# rsync -avz rsync_backup@10.0.0.211::backup /backup/
#拉取远端数据:远端与本地保持一致,远端没有本地有会被删除, 造成客户端数据丢失
[root@nfs01 ~]# export RSYNC_PASSWORD=123456
[root@sunedu ~]# mkdir /data
[root@sunedu ~]# rsync -avz --delete rsync_backup@10.0.0.211::backup /data/
#推送数据至远端:本地与远端保持一致, 本地没有远端会被删除, 造成服务器端数据丢失
[root@nfs01 ~]# export RSYNC_PASSWORD=123456
[root@sunedu ~]# rsync -avz --delete /data/ rsync_backup@10.0.0.211::backup
#企业案例: 某DBA使用rsync拉取备份数据时,由于文件过大导致内部交换机带宽被沾满,导致用户的请求无法响应
[root@nfs01 ~]# export RSYNC_PASSWORD=123456
[root@sunedu ~]# rsync -avz --bwlimit=1 rsync_backup@10.0.0.211::backup /data/
使用3台服务器主机名分别为web01、backup 、nfs主机信息见下表:
角色 | 外网ip | 内网ip | 主机名 |
Web | 10.0.0.7 | 172.16.1.17 | Web01 |
Nfs | 10.0.0.31 | 172.16.1.31 | Nfs01 |
Rsync | 10.0.0.211 | 172.16.1.11 | backup |
1.客户端提前准备存放的备份的目录,目录规则如下:/backup/nfs_172.16.1.31_2018-09-02
2.客户端在本地打包备份(系统配置文件、应用配置等)拷贝至/backup/nfs_172.16.1.31_2018-09-02
3.客户端最后将备份的数据进行推送至备份服务器
4.客户端每天凌晨1点定时执行该脚本
5.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间
1.服务端部署rsync,用于接收客户端推送过来的备份数据
2.服务端需要每天校验客户端推送过来的数据是否完整
3.服务端需要每天校验的结果通知给管理员
4.服务端仅保留6个月的备份数据,其余的全部删除
注意:所有服务器的备份目录必须都为/backup
建议备份的数据内容如下:
#1.开机自启动配置文件 设备挂载配置文件 本地内网配置文件 (系统配置文件)
/etc/rc.local /etc/fstab /etc/hosts
#2.cron定时任务 firewalld防火墙 脚本目录 (重要目录)
/var/spool/cron/ /etc/firewalld /server/scripts
#3.系统日志文件
/var/log/ //系统安全日志、sudo日志、内核日志、rsyslog日志
#4.应用程序服务配置文件 nginx、PHP、mysql、redis.....
[root@nfs01 ~]# mkdir /server/scripts -p
[root@nfs01 ~]# vim /server/scripts/client_rsync_backup.sh
#!/usr/bin/bash
#1.定义变量
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Host=$(hostname)
Addr=$(ifconfig eth1|awk ‘NR==2{print $2}‘)
Date=$(date +%F)
Dest=${Host}_${Addr}_${Date}
Path=/backup
#2.创建备份目录
[ -d $Path/$Dest ] || mkdir -p $Path/$Dest
#3.备份对应的文件
cd / &&
[ -f $Path/$Dest/system.tar.gz ] || tar czf $Path/$Dest/system.tar.gz etc/fstab etc/rsyncd.conf &&
[ -f $Path/$Dest/log.tar.gz ] || tar czf $Path/$Dest/log.tar.gz var/log/messages var/log/secure &&
#4.携带md5验证信息
[ -f $Path/$Dest/flag ] || md5sum $Path/$Dest/*.tar.gz >$Path/$Dest/flag_$Date
#5.推送本地数据至备份服务器
export RSYNC_PASSWORD=zls
rsync -avz $Path/ rsync_backup@172.16.1.41::backup
#6.本地保留最近7天的数据
find $Path/ -type d -mtime +7|xargs rm -rf
[root@nfs01 ~]# crontab -l
00 01 * * * /bin/bash /server/scripts/client_rsync_backup.sh &> /dev/null
[root@rsync_backup ~]# cat /etc/mail.rc
set from=253097001@qq.com
set smtp=smtps://smtp.qq.com:465
set smtp-auth-user=253097001@qq.com
set smtp-auth-password=#客户端授权码
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/
#2.服务端校验、以及邮件通知脚本
[root@rsync_backup ~]# mkdir /server/scripts -p
[root@rsync_backup ~]# vim /server/scripts/check_backup.sh
#!/usr/bin/bash
#1.定义全局的变量
export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
#2.定义局部变量
Path=/backup
Date=$(date +%F)
#3.查看flag文件,并对该文件进行校验, 然后将校验的结果保存至result_时间
find $Path/ -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_${Da
te}
#4.将校验的结果发送邮件给管理员
mail -s "Rsync Backup $Date" 123@qq.com <$Path/result_${Date}
#5.删除超过7天的校验结果文件, 删除超过180天的备份数据文件
find $Path/ -type f -name "result*" -mtime +7|xargs rm -f
find $Path/ -type d -mtime +180|xargs rm -rf
[root@rsync_backup ~]# crontab -l
00 05 * * * /bin/bash /server/scripts/check_backup.sh &> /dev/null
[root@rsync_backup ~]# rsync -avz /server 172.16.1.17:/root/
[root@rsync_backup ~]# yum -y install inotify-tools
-m 持续监控
-r 递归
-q 静默,仅打印时间信息
--timefmt 指定输出时间格式
--format 指定事件输出格式
%Xe 事件
%w 目录
%f 文件
-e 指定监控的事件
access 访问
modify 内容修改
attrib 属性修改
close_write 修改真实文件内容
open 打开
create 创建
delete 删除
umount 卸载
[root@rsync_backup ~]# /usr/bin/inotifywait -mrq --format ‘%Xe %w %f‘ -e create,modify,delete,attrib,close_write /backup
[root@rsync_backup ~]# vim rsync-inotify.sh
#!/bin/bash
dir=/backup
/usr/bin/inotifywait -mrq --format ‘%w %f‘ -e create,delete,attrib,clos
e_write $dir | while read line;do
cd $dir && rsync -az -R --delete . rsync_backup@172.16.1.31:
:backup --password-file=/etc/rsync.passwd >/dev/null 2>&1
done &
原文:https://www.cnblogs.com/sunyuhang1/p/14449664.html