Files
HY2XS_flamy/docs/13-production-runbook.md
T
founder e84fdedc4b fix(v1): сделать откат неотменяемым, а маркер установки — долговечным
Три дефекта одного класса в failure path install/reconfigure.

1. Запись состояния отказа отменяла откат.

   Обработчик ошибки первым делом писал в install-state фазу отказа обычным
   await и только потом откатывался. Эта запись — mkdir, write и chown в
   /var/lib/hy2xs, то есть она падает ровно там, где откат нужнее всего:
   заполненный диск, read-only ФС, ошибка ввода-вывода. Бросок уносил
   управление наружу, и обязательное восстановление не выполнялось вовсе —
   применённый firewall и развёрнутые сервисы оставались на сервере.

   Необязательная телеметрия состояния стояла перед обязательным
   восстановлением. Для диагностики это уже было закрыто, для записи
   состояния — нет.

2. Откат отменял сам себя.

   Он был написан цепочкой await, а каждая его стадия — systemctl, cp, rm -rf
   и nft, то есть умеет упасть сама. Отказ первой стадии отменял все
   последующие. В reconfigure это означало сервер одновременно с применённым
   сломанным firewall И без восстановленных из /etc/hy2xs/backups конфигов.
   Внутри rollbackCurrentState болезнь та же: единственная команда без
   `|| true` (systemctl daemon-reload) отменяла перезапуск сервисов строкой
   ниже, и восстановленные unit-файлы не применялись.

   Стадии стали независимыми: выполняются все, отказавшие перечисляются в
   журнале, наружу уходит исходная ошибка операции.

3. У маркера установки было два писателя с разными гарантиями.

   install перезаписывал файл на месте (writeText), reconfigure подставлял
   атомарно. Слабейшая гарантия досталась команде, которая этот файл создаёт.
   Перезапись на месте укорачивает файл до нуля и только потом наполняет:
   отказ между этими моментами оставляет половину JSON, который не
   разбирается — reconfigure видит его как отсутствующий, clean-host как
   присутствующий, а хост уже изменён.

   Атомарности при этом мало. rename() без fsync даёт атомарность видимости
   без долговечности: после потери питания ext4 штатно отдаёт по этому пути
   нулевой файл. Для метаданных восстановления это неприемлемо, поэтому
   порядок теперь: права/владелец -> fsync файла -> rename -> fsync каталога.

   Заодно ownership-флаг переименован в stateTouched и взводится ДО записи:
   отказ на chown после успешного write оставлял файл на диске при
   невзведённом флаге, то есть давал fatal_pre_apply («ничего не изменено»)
   при уже существующем маркере установки.

Тесты: rollback-mandatory.test.ts (внедрение отказа в стадию, проводка команд),
atomic-write.test.ts (замена целиком, прежний файл при отказе, отсутствие
временных файлов, права, guard). Приёмка сборки закрепляет порядок шагов
атомарной записи, отсутствие незащищённой записи состояния в обработчиках и
отсутствие отменяемых цепочек в откате.
2026-08-30 18:11:55 +05:00

11 KiB

HY2XS production runbook

1. Supported target

  • clean Debian 13 amd64
  • single host install profile
  • IPv4-only runtime model

2. Required prerequisites

apt-get update
apt-get install -y sudo ca-certificates curl iproute2 tar openssl nftables systemd

sudo обязателен для permission smoke-checks от имени runtime-пользователей.

Предварительная ручная установка sudo до запуска ./install.sh не требуется: на clean-host install-flow ставит его на стадии deps до выполнения smoke-checks.

3. Required open ports

  • UDP ${HY2XS_HYSTERIA_PORT}
  • TCP ${HY2XS_UI_PORT} (обычно localhost bind)
  • TCP ${HY2XS_SSH_PORT}
  • TCP 80/443 для ACME (в зависимости от типа challenge)

4. Clean host assumptions

  • нет legacy-конфликта по runtime-users (hysteria, hy2xs-admin)
  • нет конфликтующего не-HY2XS nftables entrypoint
  • install запускается от root

5. Install command

./install.sh --non-interactive

Важно: packaged baseline использует HY2XS_SSH_PORT=2323 по умолчанию. На target-хосте оператор обязан выставить свой рабочий SSH-порт в /etc/hy2xs/hy2xs.env и применить изменения через reconfigure --apply.

6. Post-install verification

systemctl status hysteria-server
systemctl status hy2xs-admin
ss -H -lun | grep ':443'
ss -H -ltn | grep ':8080'
nft list ruleset
cat /var/lib/hy2xs/install-state.json

7. Permission verification

ls -l /etc/hy2xs/hy2xs.env
ls -l /etc/hysteria/config.yaml

sudo -u hysteria test -r /etc/hysteria/config.yaml
sudo -u hy2xs-admin test -r /etc/hysteria/config.yaml
sudo -u hy2xs-admin test ! -w /etc/hysteria/config.yaml
sudo -u hy2xs-admin test ! -r /etc/hy2xs/hy2xs.env

8. Firewall recovery

Если install/reconfigure падают после firewall apply:

  • rollback guard не должен отменяться до успешного smoke;
  • для recovery использовать вывод оркестратора и перезапускать apply только после устранения root-cause.

Откат после операционного отказа выполняется целиком и сам по себе не может быть отменён: ни неудачной записью состояния в /var/lib/hy2xs, ни отказом одной из своих стадий. Поэтому в журнале нужно читать две разные вещи:

Строка в журнале Что она означает
failed to persist failure state, continuing with the mandatory rollback маркер не обновился (обычно заполненный диск), но восстановление выполнено; после освобождения места запустить doctor
rollback stage "<имя>" failed, continuing with the remaining stages конкретная половина восстановления не отработала; остальные выполнены
rollback finished with N failed stage(s); manual recovery may be required итог: перечисленные стадии требуют ручной проверки
rollback completed: N stage(s) succeeded восстановление отработало полностью

Наружу оркестратор всегда пробрасывает исходную ошибку операции, а не проблему внутри отката: последняя — это информация о том, что осталось не восстановленным, а не причина отказа.

9. Reconfigure flow

hy2xs-orchestrator reconfigure --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env --dry-run
hy2xs-orchestrator reconfigure --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env --apply

10. Admin bootstrap credentials

  • HY2XS_ADMIN_INITIAL_PASSWORD и HY2XS_ADMIN_CON_PASS — install-only bootstrap поля.
  • изменение значений в /etc/hy2xs/hy2xs.env после install не выполняет автоматическую ротацию существующих credentials.

11. IPv4/IPv6 policy

  • HY2XS работает в IPv4-only режиме.
  • если IPv6 включён на хосте/провайдере — это вне baseline и должно быть отдельно управляемо оператором.
  • HY2XS_DNS_AAAA_POLICY управляет реакцией preflight на DNS AAAA:
    • strict (default) — install/reconfigure прекращается при наличии AAAA;
    • warn — выводится warning и выполнение продолжается;
    • off — AAAA-проверка игнорируется.

11a. Публичный endpoint

  • preflight проверяет, что A-записи HY2XS_PUBLIC_HOSTHY2XS_DOMAIN, если он отличается) ведут на публичные IPv4 этого сервера;
  • проверка работает в install, reconfigure и doctor;
  • адрес сервера определяется локально по интерфейсам, без обращения к внешним сервисам определения IP;
  • HY2XS_PUBLIC_ENDPOINT_POLICY управляет строгостью:
    • strict (default) — расхождение останавливает операцию;
    • warn — warning и продолжение (NAT, floating IP, anycast);
    • off — сравнение не выполняется;
  • отсутствие A-записи остаётся фатальным при любом значении политики.

Типичный сценарий, ради которого это сделано: провайдер принудительно сменил IPv4, DNS остался старым. До v1 doctor в такой ситуации отвечал успехом, а клиентская ссылка отправляла людей на чужую машину.

12. Validation command

hy2xs-orchestrator doctor --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env

Команда выполняет preflight + smoke как post-install/post-reboot validation.

doctor не перезапускает сервисы: он диагностирует работающую установку. Раньше он собирал контекст с параметрами по умолчанию и звал общий smoke, а тот первым же действием выполняет systemctl restart hysteria-server hy2xs-admin — то есть команда, которую этот раздел предлагает запускать при подозрении на проблему, гарантированно обрывала все живые VPN-соединения, включая случай, когда с сервисом всё в порядке. Диагностика, меняющая то, что диагностирует, отвечает не на заданный вопрос: после рестарта проверяется уже другое состояние.

Остальные проверки smoke выполняются полностью — слушатели, права и владельцы файлов, machine auth (включая негативные случаи), семантика /etc/hysteria/config.yaml против production-профиля, версия установленного бинаря. Состояние сервера ни одна из них не меняет.

Перезапуск сервисов остаётся операцией install, reconfigure --apply и repair — там он является частью применения изменений, а не проверкой.

13. Admin UI access via SSH tunnel

Production policy: UI остаётся loopback-only (HY2XS_UI_BIND_HOST=127.0.0.1), внешний доступ к 8080/tcp не открывается. Операторский доступ выполняется через SSH local forwarding.

Windows tunnel command:

ssh -p 2323 \
  -i C:\Users\kirap\.ssh\id_ed25519_uk1 \
  -N \
  -L 127.0.0.1:8080:127.0.0.1:8080 \
  root@185.156.108.141

Open in browser: http://127.0.0.1:8080/#/login.

Если туннель падает с administratively prohibited, проверить effective sshd-конфиг:

sshd -T | grep -E '^(port|allowtcpforwarding|permitopen|gatewayports|passwordauthentication|permitrootlogin) '

Recommended sshd hardening fragment:

Port 2323
PubkeyAuthentication yes
PasswordAuthentication no
KbdInteractiveAuthentication no
PermitRootLogin prohibit-password

AllowTcpForwarding local
PermitOpen 127.0.0.1:8080 localhost:8080
GatewayPorts no

X11Forwarding no
AllowAgentForwarding no
MaxAuthTries 3
LoginGraceTime 20
ClientAliveInterval 300
ClientAliveCountMax 2

14. Secret-safe config sharing

Для передачи конфигов в тикеты/чаты используйте встроенную redaction-команду:

hy2xs-orchestrator redact-config --config /etc/hy2xs/hy2xs.env --out /root/hy2xs.redacted.env
hy2xs-orchestrator redact-config --config /etc/hysteria/post-install.env --out /root/post-install.redacted.env
hy2xs-orchestrator redact-config --config /etc/hysteria/config.yaml --out /root/hysteria-config.redacted.yaml --format yaml

Инварианты:

  • команда не выводит исходные секреты в stdout;
  • требуется выбрать ровно один режим: --in-place или --out <path>;
  • --format auto пытается определить формат по имени файла, при неоднозначности используйте --format env|yaml;
  • YAML редактируется структурно (документ разбирается и обходится как дерево), поэтому вложенные секреты вроде auth.http.url?access_token=… не переживают редакцию, а результат остаётся валидным YAML;
  • в env-файлах секрет вырезается и из URL-значения, даже если имя ключа несекретное — например, HY2_AUTH_URL в post-install.env.

Та же редакция применяется к diagnostics-бандлу (hy2xs-orchestrator diagnostics collect), который собирается автоматически при неудачной установке или реконфигурации. Бандл предназначен для передачи наружу, поэтому попадающие в него hy2xs.env, post-install.env и config.yaml редактируются перед упаковкой.

При отказе до начала применения изменений (fatal_pre_apply) бандл не собирается: его сбор сам создал бы каталоги в /var/log/hy2xs на сервере, который мы обещали не трогать.