lucaibao/rsync repository overview

⁠docker-compose.yml

version: '2'

services:
    rsync_3.1.3:
        container_name: rsync_3.1.3_alpine
        image: rsync_3.1.3:alpine
        hostname: rsync
        command:
            - /bin/sh
            - -c
            - |
              /usr/bin/rsync --daemon
              sh /opt/run-basic.sh

        restart: always
        volumes:
            - /data/rsync:/var/log/
            - ./run-basic.sh:/opt/run-basic.sh
        expose:
            - "873"
        tty: true

⁠run-basic.sh

#!/bin/bash
user=user
password=123456

sed -i "12s/test/$user/" /etc/rsyncd.conf
echo "$user:$password" > /etc/rsync.secrets
chmod 600 /etc/rsync.secrets

while true
do
        sleep 10
done

⁠centos上安装部署rsync

rsync是一款实现远程数据同步功能的软件，在同步文件时，只传送两个文件的不同部分，而不是每次整份传送；它采用C/S模式，进行点对点的传输，默认端口号为873

⁠一、服务器端安装配置

• 安装

yum install rsync -y

• 修改配置文件

# /etc/rsyncd: configuration file for rsync daemon mode

# See rsyncd.conf man page for more options.

# configuration example:

# rsync以什么用户身份启动
uid = nobody
# rsync以什么用户组启动,uid和gid设置成root时可以读取任何文件目录，但会带来安全隐患
gid = nobody
use chroot = no
# 最大连接数，0代表没有限制
max connections = 4
# 默认端口873
#port = 873          
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/run/rsyncd.log
# 忽略一些I/O错误
#ignore errors          
read only = false
# 禁止数据同步的客户端IP地址，多个用,隔开
#hosts deny = 0.0.0.0/32   
# 执行数据同步的用户名，多个用,隔开
auth users = bao       
# 用户认证配置文件，里面保存用户名密码
secrets file = /etc/rsync.secrets   
# 允许进行数据同步的客户端IP地址，多个用,隔开
hosts allow = 192.168.109.0/24   
# 不允许进行数据同步的客户端IP地址，多个用,隔开
# hosts deny = 192.168.109.122
# transfer logging = yes
# ignore nonreadable = yes
# dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2

# [ftp]
#        path = /home/ftp
#        comment = ftp export area

####################################################
# 模块，可以设置多个
[test1]
# 模块的同步目录，要注意权限
path = /data/test1
# 模块描述
comment = test1
# 是否允许列出模块内容
list = false
# 设置不同步的目录或文件,多个用空格隔开
# exclude = /data/demo1 /data/demo2    
####################################################
[test2]
path = /data/test2
comment = test2

• 配置用户名密码

  • 编辑配置文件中的secrets file，添加格式为“user:password”的用户名密码，多个用户名密码另起一行存

    echo "lcb:123456" > /etc/rsync.secrets

  • 修改配置文件权限，权限必须是600

    chmod 600 /etc/rsync.secrets

• 启动服务

  rsync --daemon

注意关闭防火墙或开放873端口

⁠二、客户端安装配置

• 安装

  yum install rsync -y

• 创建文件用来存储服务端设置的密码

  echo "123456" > /etc/rsync.secrets

• 修改密码文件的权限为600

  chmod 600 /etc/rsync.secrets

• 启动服务，同步文件

  • 服务端同步客户端文件（本地主机复制到远程主机）

    • 格式为rsync [option] src user@host::dest --password-file=xxx

      rsync -va /data/test/ [email protected]::test1 --password-file=/etc/rsync.secrets

  • 客户端同步服务端文件（远程主机复制到本地主机）

    • 格式为rsync [option] user@host::src dest --password-file=xxx

      rsync -va [email protected]::test1 /data/test/ --password-file=/etc/rsync.secrets

• [option]参数说明

  • -a：归档模式，表示以递归方式传输文件，并保持所有文件属性，等价于 -rlptgoD (注意不包括 -H)
  • -r：对子目录以递归模式处理
  • -l, --links：保持符号链接文件
  • -p, --perms：保持文件权限
  • -t：保持文件时间信息
  • -g：保持文件属组信息
  • -o：保持文件属主信息 (super-user only)
  • -D：保持设备文件和特殊文件 (super-user only)
  • -v：详细输出模式
  • -z, --compress：对备份的文件在传输时进行压缩处理
  • -q：精简输出模式
  • --exclude=PATTERN： 指定排除一个不需要传输的文件匹配模式
  • --delete：删除那些接收端还有而发送端已经不存在的文件
  • --partial：保留那些因故没有完全传输的文件，以是加快随后的再次传输
  • --progress：在传输时显示传输过程
  • -P：等价于 ––partial ––progress
  • ----password-file：与服务端匹配的密码文件
  • -e,--rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

⁠inotify工具的安装

可实时触发rsync进行同步

• ll /proc/sys/fs/inotify/ 查看服务器内核是否支持inotify，该目录下有以下三个文件说明支持

  • max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量（单进程）
  • max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch命令的进程数。
  • max_queued_events：设置inotify实例事件（event）队列可容纳的事件数量。

• 安装

  yum install inotify-tools

• 创建脚本

  touch inotify.sh && chmod +x inotify.sh

• 编写inotify.sh脚本

  #!/bin/bash
  src=/data/test/                      # 需要同步的源路径
  des=test1                            # 目标服务器上rsync配置的模块
  rsync_passwd_file=/etc/rsync.secrets # rsync验证的密码文件
  ip=192.168.109.133                   # 目标服务器
  user=lcb                             # rsync --daemon定义的验证用户名
  cd ${src}                            
  /usr/bin/inotifywait -mrq --format  '%Xe %w%f' -e modify,create,delete,attrib,close_write,move ./ | while read file
  do
          INO_EVENT=$(echo $file | awk '{print $1}')     
          INO_FILE=$(echo $file | awk '{print $2}')       
          if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]]         # 判断事件类型
          then
                  rsync -av --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
          fi
          if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
          then
                  rsync -av --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
          fi
          if [[ $INO_EVENT =~ 'ATTRIB' ]]
          then
                  if [ ! -d "$INO_FILE" ]
                  then
                          rsync -av --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
                  fi
          fi
  done
  

  Copy

启动以上脚本即可做到inotify监听文件改动后自动执行文件同步，但是在没有启动期间文件发生更改，他是不知道的，所以这里可以做一个每一个小时做一次全量同步，防止各种意外导致数据不一致

crontab -e
* */1 * * * rsync -av --password-file=/etc/rsync.secrets /data/test/ [email protected]::/test1