История страницы

Введение

Отказоустойчивая система ECCM реализуется по схеме резервирования Active-Active с использованием VIP (Virtual IP) адреса, что позволяет использовать единый адрес для доступа к каждому узлу системы и хранить на них актуальные данные. Для настройки отказоустойчивой схемы требуется выделить не менее трех серверов. В схеме резервирования также предусмотрено разделение ECCM на сервер с БД и сервер с ECCM, использующим эту базу — для таких случаев требуется выделить 5 серверов.

...

Подготовка серверов

Перед запуском ECCM в отказоустойчивой системе по любой из ранее представленных схем подготовьте конфигурационные и вспомогательные файлы.

...

Подготовка конфигурационного файла для запуска ECCM в стандартной схеме отказоустойчивой системы

...

• ECCM_MASTER_HOST — содержит IP-адрес Master-ноды;
• ECCM_SLAVE_HOST — содержит IP-адрес Slave-ноды;
• ECCM_WITNESS_HOST — содержит IP-адрес Witness-ноды;
• RABBITMQ_CLUSTER_PASSWORD — содержит пароль, используемый сервисом RabbitMQ для подключения к кластеру;
• REDIS_PASSWORD — содержит пароль, используемый сервисом Redis для подключения к кластеру;
• SENTINEL_PASSWORD — содержит пароль, используемый службой мониторинга для подключения к кластеру сервиса Redis и получения информации о состоянии серверов.

...

Синхронизация сертификатов безопасности

Для синхронизации файлов из директории cluster-cert/ между узлами отказоустойчивой системы рекомендуем воспользоваться утилитой rsync. Пример установки утилиты был описан в пункте "Синхронизация файлов конфигурации".

Для передачи сертификатов кластера используйте следующую команду:

...

Для доступа к веб-интерфейсу установите (при отсутствии) утилиту Keepalived, межсетевой экран iptables и стандартные утилиты Linux на каждой ноде с сервисами ECCM. Пример установки утилиты:

sudo apt install keepalived iptables util-linux

В директории keepalived подготовлены конфигурационные файлы и скрипты для утилитыработы с VIP:

• keepalived.conf — конфигурационный файл Keepalived, настраивающий VRRP для отказоустойчивой системы;
• check_app.sh — скрипт, проверяющий состояние сервисов ECCM. При сбое работы сервиса снижает приоритет сервера для последующей смены мастерства.

После установки скопируйте все конфигурационные файлы из директории keepalived/ в директорию /etc/keepalived/:

cp ./keepalived/* /etc/keepalived/

Убедитесь, что у скрипта check_app.sh есть права на выполнение. Если прав нет, используйте следующую команду:

chmod 755 /etc/keepalived/check_app.sh

При помощи любого текстового редактора откройте конфигурационный файл /etc/keepalived/keepalived.conf. На сервере, где будет находиться приложение ECCM с ролью мастер, измените следующие параметры:

...

• ;
• tftp_snat;
• sh — скрипт, отслеживающий работу TFTP с VIP;
• eccm-tftp-snat.service и eccm-tftp-snat.timer — служба и таймер systemd, периодически синхронизирующие сетевые правила межсетевого экрана с текущим состоянием отказоустойчивой системы.   

При помощи любого текстового редактора откройте конфигурационный файл keepalived/keepalived.conf. На сервере, где будет находиться приложение ECCM с ролью мастер, измените следующие параметры:

• INTERFACE_NAME — сетевой интерфейс, на котором будет находиться ECCM. Выставляется индивидуально для каждого сервера;
• ROUTER_ID — идентификатор виртуального маршрутизатора, принимающий значения от 0 до 255. Одинаковый на всех серверах;
• PRIORITY — приоритет текущей ноды, принимающий значения от 0 до 255. Это значение должно быть больше параметра weight (в стандартной конфигурации weight = -10), в ином случае мастерство переключаться не будет;
• PASSWORD — пароль VRRP-аутентификации. Одинаковый на всех серверах;
• VIP_

...

• ADDRESS — виртуальный IP-адрес, через который будет предоставляться доступ к веб-интерфейсу. Одинаковый на всех серверах

...

• ;
• PREFIX_LENGTH — длина префикса виртуального IP-адреса, например "32".

При помощи любого текстового редактора откройте файл eccm-tftp-snat.service и установите значения VIP_ADDRESS и INTERFACE_NAME в соответствии с ранее указанными в конфигурационном файле Keepalived. Далее перейдите на сервер, где будет находиться приложение Далее перейдите на сервер, где будет находиться приложение ECCM с ролью Slave, и измените ранее описанные параметры.

...

Рекомендуемые значения:

• Если необходимо, чтобы мастерство возвращалось исходному мастеру:
  • Master-узел должен иметь приоритет 101;
  • Slave-узел должен иметь приоритет 100;
• Если нет необходимости в возвращении мастерства исходному мастеру:
  • На всех узлах выставить приоритет 100.всех узлах выставить приоритет 100.

После настройки всех файлов скопируйте из директории keepalived/ в директорию /etc/systemd/system файлы eccm-tftp-snat.service и eccm-tftp-snat.timer:

cp eccm-tftp-snat.service eccm-tftp-snat.timer /etc/systemd/system/

Оставшиеся файлы скопируйте в директорию /etc/keepalived/:

cp keepalived.conf /etc/keepalived/
cp check_app.sh /etc/keepalived/
cp tftp_snat.sh /etc/keepalived/

Укажите корректные права доступа для скопированных файлов:

chown root:root /etc/keepalived/check_app.sh /etc/keepalived/tftp_snat.sh
chown root:root /etc/systemd/system/eccm-tftp-snat.service /etc/systemd/system/eccm-tftp-snat.timer
chmod 755 /etc/keepalived/check_app.sh /etc/keepalived/tftp_snat.sh
chmod 644 /etc/systemd/system/eccm-tftp-snat.service /etc/systemd/system/eccm-tftp-snat.timer

После этого запустите Keepalived и сервисы на каждом узле. Пример запуска и добавления в автозагрузку:

sudosystemctl enable keepalived
systemctl start keepalived
sudosystemctl daemon-reload
systemctl enable keepalived--now eccm-tftp-snat.timer

Убедитесь, что роли между узлами были распределены, при помощи следующей команды:

...

Для запуска ECCM в отказоустойчивой системе при стандартной схеме перейдите на сервер будущего Master-узла. Запустите мастер Master с помощью bash-скрипта, указав необходимые параметры. Пример запуска:

...

Во время запуска Master-узла подтвердите создание файла .env.personal и переменной ключа шифрования ENCRYPTION_SECRET_KEY. Описание файла и переменной приведено в разделе "Инструкция по установке и запуску".

Конфигурационный файл .env.personal с паролями должен быть одинаковым на всех нодах кластера. Для синхронизации файла конфигурации между серверами можно воспользоваться утилитой rsync. Для передачи файла .env.personal после успешного запуска Master-узла используйте следующую команду:

sudo rsync -av --delete --rsync-path="sudo rsync" <полный путь до директории eccm>/.env.personal <имя пользователя сервера>@<IP-адрес сервера назначения>:<полный путь до директории eccm>

После выполнения команды для каждого сервера назначения файл конфигурации будет соответствовать настроенному ранееУбедитесь, что файлы совпадают на всех узлах.

После того как мастер будет инициализирован и готов к работе, перейдите на сервер Slave-узла. Запустите Slave с помощью bash-скрипта, указав необходимые параметры. Пример запуска:

...

./compose-tools.sh --install # установит docker, если он отсутствует в системе
./compose-tools.sh --pull -s <POSTGRES_MASTER_HOST> --database-only --cluster master

sudo rsync -av --delete --rsync-path="sudo rsync" <полный путь до директории eccm>/.env.personal <имя пользователя сервера>@<IP-адрес сервера назначения>:<полный путь до директории eccm>

./compose-tools.sh --install # установит docker, если он отсутствует в системе
./compose-tools.sh --pull -s <POSTGRES_SLAVE_HOST> --database-only --cluster slave

./compose-tools.sh --install # установит docker, если он отсутствует в системе
./compose-tools.sh --pull -s <ECCM_MASTER_HOST> --cluster master --database-host <POSTGRES_MASTER_HOST> --database-port <POSTGRES_MASTER_PORT> --backup-database-host <POSTGRES_SLAVE_HOST> --backup-database-port <POSTGRES_SLAVE_PORT>

./compose-tools.sh --install # установит docker, если он отсутствует в системе
./compose-tools.sh --pull -s <ECCM_SLAVE_HOST> --cluster slave --database-host <POSTGRES_MASTER_HOST> --database-port <POSTGRES_MASTER_PORT> --backup-database-host <POSTGRES_SLAVE_HOST> --backup-database-port <POSTGRES_SLAVE_PORT>

./compose-tools.sh --install # установит docker, если он отсутствует в системе
./compose-tools.sh --pull -s <ECCM_WITNESS_HOST> --cluster witness