GrabDuck

Rsync — OpenWiki

:

Использование Rsync как сервер

Реализация Rsync-сервера построена следующим образом. Есть отдельный сервер куда будут складываться все бэкапы. С этого сервера запускается по крону команда rsync с параметрами, которая реализует коннект к удаленным машинам в сети. На всех машинах работает Rsync-служба, в конфиге которой прописано какие именно каталоги нужно синхронизировать.

Настройка Rsync - службы, на удаленных серверах

Правим конфиг Rsync-сервера. Где искать в разных дистрибутивах:

FreeBSD
/usr/local/etc/rsyncd.conf

Gentoo
/etc/rsyncd.conf

HP-UX 11.xx
/etc/rsyncd.conf

rsyncd.conf:

#если запускать через inetd то pid file не используем
pid file = /var/run/rsyncd.pid

# Файл приветствия (Можно описать информацию о самом сервере, полезно когда серверов будет много)
motd file = /etc/hello_rsync

# Файл логов
log file = /var/log/rsyncd.log

# Писать в лог о скачиваемых файлах
transfer logging = true

# Описание секции для синхронизации /etc/
[etc]
        path = /etc/                                 # Путь к директории
        uid = root                                   # Пользователь под каким запускать крипт
        gid = sys                                    # По умолчанию будет gid = nobody, что недаст    #работать
        read only = yes                              # Только чтение (а больше и не нужно)
        list = yes                                   # Разрешать просмотр файлов
        comment = ETC - derectory                    # Комментарий
        hosts allow = 192.168.0.6,192.168.0.52       # Хосты с которых разрешен коннект
        auth users = backup                          # Разрешенный пользователи службы rsync 
        secrets file = /root/rsyncd.scrt             # Файл с паролем
#если не указывать auth users то можно будет работать анонимно и не заморачиваться secrets file'ами

Теперь создадим файл приветствия, файлы для логов и пароля.


pdc# vim /etc/hello_rsync

#################################################################
#                                                               #
#         Hello from rsync server  (pdc.myhost.com)             #
#         Server Adress : 192.168.1.254                         #
#         Server        : AMD Computer Corp                     #
#         Hardware      : 1x AMD(R)2X CPU, 2180MB RAM           #
#         Contact Name  : admin@myhost.com                      #
#                                                               #
#################################################################


pdc# touch /var/log/rsyncd.log
pdc# chmod 0600 /var/log/rsyncd.log
pdc# chown root:wheel /var/log/rsyncd.log
pdc# cat > /root/rsyncd.scrt
backup:rsync_passwd
pdc# chown root:wheel /root/rsyncd.scrt
pdc# chmod 0600 /root/rsyncd.scrt

Внимание! ВАЖНО. Очень важны права доступа к файлу с паролем. Если права будут отличными от тех что нужно, у вас не будет проходить аутентификация.

Теперь добавим службу rsync в автоматический запуск:


FreeBSD
mv /usr/local/etc/rc.d/rsyncd /usr/local/etc/rc.d/rsyncd.sh
echo rsyncd_enable=\"YES\" >> /etc/rc.conf
/usr/local/etc/rc.d/rsyncd.sh start

Gentoo
rc-update add rsyncd default
/etc/init.d/rsyncd start

Для запуска через inetd например в HP-UX

добавляем строку в /etc/services:
rsync 873/tcp

а в /etc/inetd.conf добавляем строку:
rsyc  stream tcp nowait root /usr/local/bin/rsync rsyncd --daemon

(/usr/local/bin/rsync меняем на то место куда на вашей системе был установлен rsync)

Теперь переходим на сервер, куда будут собираться все наши BackUp.

Настройка Rsync - скрипта, на BAckUp - сервере

На Нашем BackUp - сервере создаем директории, куда будут складываться все наши резервные копии.

saturn# mkdir -p /home/backup/pdc.myhost.com/etc/
saturn# chmod -R 0700 /home/backup/pdc.myhost.com/etc/

Теперь создаем файл с паролем. По правилам хорошего тона, прячем его в /root/

saturn# cat > /root/rsyncd.scrt
rsync_passwd
saturn# chown root:wheel /root/rsyncd.scrt
saturn# chmod 0600 /root/rsyncd.scrt

Теперь проверяем:


saturn ~ # rsync pdc::
#################################################################
#                                                               #
#         Hello from rsync server  (pdc.myhost.com)             #
#         Server Adress : 192.168.1.254                         #
#         Server        : AMD Computer Corp                     #
#         Hardware      : 1x AMD(R)2X CPU, 2180MB RAM           #
#         Contact Name  : admin@myhost.com                      #
#                                                               #
#################################################################

etc             ETC - derectory


Теперь делаем полную синхронизацию следующей командой.

rsync -uvroght --delete-after --password-file=/root/rsyncd.scrt backup@pdc.myhost.com::etc  /home/backup/pdc.myhost.com/etc/

Для автоматизации, я создал два файла /root/rsync_day.sh, который запускается по крону каждый час, в нем у меня синхронизируется svn-репозиторий. И /root/rsync_night.sh - который запускается только ночью. В нем у меня синхронизируется /etc/ /home/ и прочее. Кому что синхронизировать, решать вам.

Детальное описание ключей rsync

-v, --verbose               увеличение отладочной информации
-u, --update                пропускать обновление файлов, которые новее исходных
-r, --recursive             рекурсия в директориях
-o, --owner                 сохранить владельца (только под root)
-g, --group                 сохранить группу
-h, --human-readable        вывод цифр в читаемом виде (Кб, Мб, Гб)
-t, --times                 сохранить дату изменения
-p, --perms                 сохранить права доступа

--delete-after              удалить после. Если в основном месте был удален какой-то файл, или каталог, 
                            то после синхронизации в backup сервере, в каталоге он тоже будет удален
--password-file             Путь, где находится файл с паролем.

Обязательно включите ключ -v, --verbose, тогда в консоль вам будет выводиться вся информация о процессе. Если у вас настроено отсылка сообщений службой ssmtp, то вы сможете получать письма с информацией о том как отработал cron. И соответственно как прошла синхронизация.

Преимущества и недостатки

Преимущества такого вида резервной синхронизации я вижу в полной автоматизации процесса. Так же письменное уведомление, о том как проходит процесс. (При условии что настроена служба ssmtp). Так же к преимужествам можно отнести что мы имеем полную рабочую версию каталогов, с правами доступа. Это дает нам преимущества быстрого переключения на резервный сервер служб, которые постоянно работают. К примеру svn-репозиторий, web-хостинг. Мы не тратим время на разархивирование, копирование и прочее. Переключаем на шлюзе порты, и работаем над восстановлением упавшего сервака.

К недостаткам можно отнести какую-то несовместимость rsync с svn-базами. Кто знает подробности, можете описать.

Простое использование rsync

  rsync -vaHx --progress --numeric-ids --delete \
    --exclude-from=asylum_backup.excludes --delete-excluded \
    root@asylum:/home/asylum/ /backup/rsync/asylum/_home_asylum.demo/
  • Опции
    • -v, --verbose - говорливость, выводит имена обрабатываемых файлов;
    • -a, --archive - работа в режиме архивирования, сохраняются права доступа и информация о владельцах;
    • -H, --hard-links - сохранять жесткие ссылки, оставляя их на другом конце бэкапа;
    • -x, --one-file-system - не выходить за пределы текущей точки монтирования;
    • --progress - показывать сколько процентов осталось до завершения и скорость передачи;
    • --numeric-ids - не транслировать имена владельца и группы в цифровые UID и GID, оставить на удаленной стороне номера как есть;
    • --delete - удалять из бэкапа файлы, которых уже нет на стороне источника;
    • --exclude-from=asylum_backup.excludes - список файлов исключенных из бэкапа, допускается использование масок, напирмер "htdocs/*/*.jpg";
    • --delete-excluded - удалять части которые уже есть на стороне бэкапа, но появились в списке исключения;
    • root@ - под каким пользоателем осущестляются подключение;
    • asylum - имя хоста к которому производится подключение;
    • /home/asylum/ - директория источник, которую нужно бэкапить;
    • /backup/rsync/asylum/_home_asylum.demo/ - куда сохранять бэкап;
  • Для определения транспорта нужно задать переменную
RSYNC_RSH "ssh -c arcfour -o Compression=no -x"
  • ssh - транспорт ssh (можно задать через "-e ssh");
  • -c arcfour - тип шифрования;
  • -o Compression=no - отключить сжатие средствами ssh, rsync сам сжимает данные;
  • -x - отключаем X туннелинг;
  • Другие полезные опции:
    • -n, --dry-run - режим тестирования, реально никаких действий по копированию не производится, только эмуляция;
    • -W, --whole-file - передает файлы целиком, а не блоками, как задумано в оригинальном алгоритме rsync;
    • -c, --checksum - использование сверки по контрольным суммам, а не по времени изменения и размеру;
    • -S, --sparse - допускает оптимизацию дискового пространства через создание "дырявых" файлов;
    • --delete отличается от --delete-after тем, что удаление производится вначале, а не на завершающей стадии процесса бэкапа. --delete-after работает быстрее, так как не требует лишней стадии обхода списка файлов, но требует использования опции --force для обработки таких ситуаций как удаление файла и появление диретории с тем же именем;
    • -T, --temp-dir=DIR - сохранять временные файлы в отдельной диретории, а не в текущей;
    • --compare-dest=DIR - сохранять новые и измененные файлы в отдельной директории, не трогая на время коприрования основную директорию назначения, в конце - разом, путем переименования, обновить содержимое бэкапа;
    • --link-dest=DIR - использовать жесткие ссылки на файлы в DIR, например, для создания подобия снапшотов;
    • --bwlimit - ограничение пропускной способности, чтобы не забивать канал;
    • --ignore-errors - продолжать копирование и удаление после появления ошибок;
    • --max-delete - ограничение максимально числа удаляемых за один раз файлов и каталогов;
    • -z, --compress - включить сжатие передаваемых данных;
    • -A, --acls - сохранять не только права доступа, но и ACL;
    • -D - сохранять файлы устройств
    • --files-from=FILE - задать список директорий и файлов для бэкапа в файле;
    • --times - синхронизировать время модификации файлов;
    • --backup - старые измененные или удаленные файлы не теряются а переименовываются или перемещаются в заданную чере --backup-dir=DIR директорию. Пример инкрементального бэкапа:
      rsync --force --ignore-errors --delete --delete-excluded --exclude-from=exclude_file \
        --backup --backup-dir=`date +%Y-%m-%d` -av

Заметки

  • rsync потребляет примерно 100 байт на каждый файл в списке, поэтому при передаче огромного числа файлов к памяти нужно относиться аккуратно;
  • Шаблон начинающийся с '/' проверяется с начала строки, иначе с конца;
  • Для задания шаблона только для директорий нужно указать в конце '/';
  • Если необходимо исключить все поддиректории в /dir, кроме /dir/best, в список исключений нужно поместить:
      + /dir/best/
      - /dir/*

Ссылки