在Linux中,同步两台及多台服务器的静态文件,有多方式和工具可以实现,比如使用rcp(remote file copy:远程文件复制)命令,对远程主机上的 rsh(远程 shell)服务进行文件传输,本文介绍一个比较成熟的工具rsync。
rsync是一个远程数据同步工具,可通过lan/wan快速同步多台主机之间的文件,也可以使用rsync同步本地硬盘中的不同目录。它可以监控当前目录下所有文件的变动,然后使用所谓的rsync算法进行数据同步,这种算法只传递两个文件的不同部分,而不是每次都整份传递,因此速度相当快。
rsync主要所用:比对、推送、复制。它有远程比对的过程,如果只有一个文件发生变化,就只推一个文件过去,并且在传输的时候,完成了压缩工作。
安装rsync
查看系统源是否存在rsync,存在就可以直接安装,不存在需要下载rsync后编辑安装,以Debian为例:
apt update
apt list rsync*
apt install rsync
注意:远程服务器和本地服务器都需要安装rsync。
启动rsync
命令:
rsync --daemon
如果报错:
Failed to parse config file: /etc/rsyncd.conf
说明缺失配置文件,在/etc/下创建rsyncd.conf文件(文件为空也能启动,只要存在即可)
使用apt安装的rsync,配置文件默认位置:/usr/share/doc/rsync/examples/rsyncd.conf,可将此文件复制到/etc/rsyncd.conf
默认的配置文件中包含一些配置信息,比如:默认资源名为ftp,查看或者同步文件时使用ftp即可,也可通过配置文件修改资源名。
查看远程服务器文件
命令:
rsync --list-only 远程IP地址::资源名/
比如:
rsync --list-only 10.168.1.150::ftp/
如果提示错误:rsync error: error starting client-server protocol (code 5) at main. (1863),如下:
查看配置文件中的path,默认的path是/var/path/pub,将path修改为实际项目的地址,重启rsync即可
本地同步远程文件
命令:
rsync -avz --delete 远程IP地址::资源名/ 本地存放目录
比如:
rsync -avz --delete 10.168.1.150::ftp/ /www/swoole
rsync常用指令:
远程服务器增加安全认证
1、设置用户和密码(需要创建密码文件):
在远程服务器中创建/etc/rsyncd.pwd文件,文件内容仅为“用户名:密码”,可使用echo命令将文本快速重定向到文件:
echo "dx:168" >> /etc/rsyncd.pwd
2、编辑远程服务器配置文件:
nano /etc/rsyncd.conf
修改以下配置项配(可在全局中添加,也可以修改单个资源下的配置):
注意:账号密码是虚拟的,仅rsync软件使用,并没有在操作系统中存在。配置文件中若不存在这两项,添加即可。
auth users = dx #设置授权用户
secrets file = /etc/rsyncd.pwd #设置密码文件地址
3、保存后重启rsync,rsync没有重启命令,重启方式为kill进程后重新运行。
ps -ef | grep rsync
kill -9 pid
用户密码连接远程服务器
远程服务器设置了用户和密码后,每次连接都需要携带用户信息:
rsync --list-only 用户名@IP地址::资源名/
比如:
rsync --list-only dx@10.168.1.150::ftp/
输入上面的命令后,再根据提示输入密码即可连接成功。
若远程连接时提示:@ERROR: auth failed on module ftp rsync error: error starting client-server protocol (code 5) at main.c(1863) [Receiver=3.2.7]
这说明远程服务器的密码文件权限过高,有被篡改的风险,需要修改密码文件权限(降权):
chmod 600 /etc/rsyncd.pwd
修改后重启rsync。
由于rsync是后台运行,启动时一般不会报错,连接时rsync虽报了错,但却不能及时看到错误提示。所以如果发现用户名+密码连接不上,先查看密码文件权限(权限不能设置太高)。
设置免密登录
1、远程服务器设置了用户密码后,本地服务器也需要创建密码文件,内容仅为密码:
echo "111" >> /etc/rsyncd.pwd.client
2、修改权限(降权):
本地的密码文件类似远程服务器的密码文件,同样需要降权,如果不降权,连接远程服务器时会报错,提示需要修改密码文件的权限。
chmod 600 /etc/rsyncd.pwd.client
3、查看远程服务器文件列表:
rsync --list-only --password-file=密码文件地址 用户名@IP地址::资源名/
比如:
rsync --list-only --password-file=/etc/rsyncd.pwd.client dx@10.168.1.150::ftp/
注意:每次创建密码文件时,一定要修改权限。
同步更新/删除文件,命令:
rsync -avz -delete --password-file=/etc/rsyncd.pwd.client dx@10.168.1.150::ftp/ /www/swoole
近时推送方案:
在本地服务器中制作一个脚本(或安排一个频繁运行的 cron 任务),定时发送网络请求,查询远程服务器目标目录的文件是否有变化,如果发生变化,拉取变化的文件到本地进行更新。
这样做的弊端是,即使远程服务器文件长时间没有变化,但在这期间网络请求依然在不停发送,这样繁忙的轮询,消耗大量资源并且具有不确定性,并不是很理想。
实时推送方案:
远程服务器主动连接本地服务器,如果文件发生变化,远程服务器将文件推送给本地服务器。想要实现推送的动作,每个服务器都要启动rsync进程(建议配置用户和密码)。
推送命令有多种写法,这里举例说两种。
⑴ 类似上文提到的拉取命令,仅把远程服务器地址和本地服务器地址互换位置,这种方式传输时不使用rsync协议,在远程服务器中使用如下命令:
rsync -avz --password-file=本地密码文件地址(只有密码,非远程服务器的“账号:密码”) 本地文件地址 用户名@目标服务器IP地址::资源名/
比如:
rsync -avz --delete --password-file=/etc/rsyncd.pwd.client /www/swoole/ dx@10.168.1.203::ftp/
⑵ 通过rsync协议推送:
rsync -avz --password-file=/etc/rsyncd.ftp.client /www/swoole/ rsync://dx@10.168.1.203:/ftp
默认情况下,本地服务器接受提交过来的文件,有一定风险,所以会拒绝并报错:ERROR: module is read only
这时需要修改本地服务器的read only配置,打开rsync的配置文件,找到read only并把它改为read only=no,如果没有read only这一项,添加到配置文件中即可。
如果远程服务器推送执行完成后,提示这种错误:rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1333) [sender=3.2.3](如下图)
这是因为本地服务器的rsync权限不足,经测试将本地服务器的目标文件夹及子目录设置为777,依然会提示这种错误。所以建议使用如下方法:
打开本地服务器rsync的配置文件,将uid和gid改为root,如果配置文件中没有这两项,添加即可。
nano /etc/rsyncd.conf
uid = root
gid = root
rsync配置文件参考(完善中)
# sample rsyncd.conf configuration file
uid = root
gid = root
# GLOBAL OPTIONS
# motd file=/etc/motd
# log file=/var/log/rsyncd
# for pid file, do not use /var/run/rsync.pid if
# you are going to run rsync out of the init.d script.
# The init.d script does its own pid file handling,
# so omit the "pid file" line completely in that case.
# pid file=/var/run/rsyncd.pid
# syslog facility=daemon
# socket options=
# MODULE OPTIONS
# 增加授权用户
# auth users = dx
# 增加密码文件地址
# secrets file = /etc/rsyncd.pwd
[ftp]
# comment = public archive
path = /www/swoole
# use chroot = yes
# max connections=10
# lock file = /var/lock/rsyncd
# the default for read only is yes...
# read only = yes
# list = yes
# uid = nobody
# gid = nogroup
# exclude =
# exclude from =
# include =
# include from =
auth users = dx
secrets file = /etc/rsyncd.ftp.secrets
# read only = no
# strict modes = yes
# hosts allow =
# hosts deny =
# ignore errors = no
# ignore nonreadable = yes
# transfer logging = no
# log format = %t: host %h (%a) %o %f (%l bytes). Total %b bytes.
# timeout = 600
# refuse options = checksum dry-run
# dont compress = *.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz
inotify监控目录变化
inotify可以监控文件系统的读写删等操作,所以用它监测某个目录内的文件有无变化,如果发生变化,调用rsync命令,同步两台服务器的数据。
inotify不是系统内置进程,需要先安装,如果apt源中没有,也可以编译安装
apt install inotify-tool
安装成功后,使用inotifywait监控,查找inotifywait程序的位置,编译安装的inofity在bin目录下,使用apt安装的位置是:/usr/bin/inotifywait
inotifywait使用
语法:inotifywait [-hcmrq] [-e ] [-t ] [–format ] [–timefmt ] [ … ]
-m:一直监控指定的目录(始终保持监听状态),接收到一个事情而不退出,无限期地执行。默认的行为是接收到一个事情后立即退出。
@:排除不需要监视的文件,可以是相对路径,也可以是绝对路径。
-o, –outfile:输出事情到一个文件而不是标准输出。
-s, –syslog:输出错误信息到系统日志
-d, –daemon:跟–monitor一样,除了是在后台运行,需要指定–outfile把事情输出到一个文件。也意味着使用了–syslog。
–exclude:正则匹配需要排除的文件,大小写敏感。
–excludei:正则匹配需要排除的文件,忽略大小写。
-t , –timeout:设置超时时间,如果为0,则无限期地执行下去。
-r:递归监控所监控目录的子目录。
-q:仅打印监控事件信息,指定一次,不会输出详细信息,指定二次,除了致命错误,不会输出任何信息。
–timefmt:指定时间格式。
–format:
-e:指定监控事件项,有以下操作
常用的为以下几项
下面举例监测目录变化的命令:
/usr/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M:%S' --format '%T %w%f %e' -e close_write,modify,delete,create,attrib,move /www/swoole/
rsync+inotify做自动化同步
#!/bin/bash
EVENT=''
SRC='/home/www/'
DEST='username@192.168.1.10::ftp/'
ACTIONS='attrib,create,modify,delete,move,moved_to,moved_from,delete_self'
inotifywait -mrq --timefmt '%Y-%m-%d %H:%M:%S' --format '%T %w %f %e' -e $ACTIONS $SRC |
while read DATE TIME DIR FILE ACTION
do
/usr/bin/rsync -avz --delete --password-file=/etc/rsyncd.pwd.client $SRC $DEST
FILEPATH=${DIR}${FILE}
case "$ACTION" in
*ACCESS*)
EVENT="被访问";;
*MODIFY*)
EVENT="被修改";;
*CREATE*)
EVENT="被创建";;
*DELETE*)
EVENT="被删除";;
*MOVED_FROM*)
EVENT="被移出";;
*MOVED_TO*)
EVENT="被移入";;
*)
EVENT="未知操作";;
esac
echo "${DATE} ${TIME} $FILEPATH $EVENT" >> /var/log/rsync_change.log
done
注意事项
1、inotify存在资源耗尽的情况,每个 inotify 实例可以监视的最大数量是有限的,若报错“Please increase the amount of inotify watches allowed per user via `/proc/sy”,这可能是资源耗尽的问题。
在 Linux 内核中,inotify 实例可以监视的最大数量通常默认是 8192(可以通过 /proc/sys/fs/inotify/max_user_watches 查看)。如果应用程序创建了超过这个数量的监视器,就会耗尽资源。频繁的事件触发:如果监视的目录下有很多文件操作,例如频繁的文件创建和删除,某些操作(如文件移动)会生成多个事件(MOVED_FROM和MOVED_TO),也可能导致资源耗尽,因为内核需要维护这些事件的状态。
临时增加限制(仅对当前会话有效):
echo 524288 | sudo tee /proc/sys/fs/inotify/max_user_watches
永久增加限制(需要 root 权限):
sudo sysctl -w fs.inotify.max_user_watches=524288
也可以手动编辑/etc/sysctl.conf文件,加入一下命令,保存并重启
fs.inotify.max_user_watches=8192000
2、网络文件系统可能不完全支持所有inotify事件