Три дефекта одного класса в failure path install/reconfigure. 1. Запись состояния отказа отменяла откат. Обработчик ошибки первым делом писал в install-state фазу отказа обычным await и только потом откатывался. Эта запись — mkdir, write и chown в /var/lib/hy2xs, то есть она падает ровно там, где откат нужнее всего: заполненный диск, read-only ФС, ошибка ввода-вывода. Бросок уносил управление наружу, и обязательное восстановление не выполнялось вовсе — применённый firewall и развёрнутые сервисы оставались на сервере. Необязательная телеметрия состояния стояла перед обязательным восстановлением. Для диагностики это уже было закрыто, для записи состояния — нет. 2. Откат отменял сам себя. Он был написан цепочкой await, а каждая его стадия — systemctl, cp, rm -rf и nft, то есть умеет упасть сама. Отказ первой стадии отменял все последующие. В reconfigure это означало сервер одновременно с применённым сломанным firewall И без восстановленных из /etc/hy2xs/backups конфигов. Внутри rollbackCurrentState болезнь та же: единственная команда без `|| true` (systemctl daemon-reload) отменяла перезапуск сервисов строкой ниже, и восстановленные unit-файлы не применялись. Стадии стали независимыми: выполняются все, отказавшие перечисляются в журнале, наружу уходит исходная ошибка операции. 3. У маркера установки было два писателя с разными гарантиями. install перезаписывал файл на месте (writeText), reconfigure подставлял атомарно. Слабейшая гарантия досталась команде, которая этот файл создаёт. Перезапись на месте укорачивает файл до нуля и только потом наполняет: отказ между этими моментами оставляет половину JSON, который не разбирается — reconfigure видит его как отсутствующий, clean-host как присутствующий, а хост уже изменён. Атомарности при этом мало. rename() без fsync даёт атомарность видимости без долговечности: после потери питания ext4 штатно отдаёт по этому пути нулевой файл. Для метаданных восстановления это неприемлемо, поэтому порядок теперь: права/владелец -> fsync файла -> rename -> fsync каталога. Заодно ownership-флаг переименован в stateTouched и взводится ДО записи: отказ на chown после успешного write оставлял файл на диске при невзведённом флаге, то есть давал fatal_pre_apply («ничего не изменено») при уже существующем маркере установки. Тесты: rollback-mandatory.test.ts (внедрение отказа в стадию, проводка команд), atomic-write.test.ts (замена целиком, прежний файл при отказе, отсутствие временных файлов, права, guard). Приёмка сборки закрепляет порядок шагов атомарной записи, отсутствие незащищённой записи состояния в обработчиках и отсутствие отменяемых цепочек в откате.
11 KiB
HY2XS production runbook
1. Supported target
- clean Debian 13 amd64
- single host install profile
- IPv4-only runtime model
2. Required prerequisites
apt-get update
apt-get install -y sudo ca-certificates curl iproute2 tar openssl nftables systemd
sudo обязателен для permission smoke-checks от имени runtime-пользователей.
Предварительная ручная установка sudo до запуска ./install.sh не требуется: на clean-host install-flow ставит его на стадии deps до выполнения smoke-checks.
3. Required open ports
- UDP
${HY2XS_HYSTERIA_PORT} - TCP
${HY2XS_UI_PORT}(обычно localhost bind) - TCP
${HY2XS_SSH_PORT} - TCP 80/443 для ACME (в зависимости от типа challenge)
4. Clean host assumptions
- нет legacy-конфликта по runtime-users (
hysteria,hy2xs-admin) - нет конфликтующего не-HY2XS nftables entrypoint
- install запускается от root
5. Install command
./install.sh --non-interactive
Важно: packaged baseline использует HY2XS_SSH_PORT=2323 по умолчанию.
На target-хосте оператор обязан выставить свой рабочий SSH-порт в /etc/hy2xs/hy2xs.env
и применить изменения через reconfigure --apply.
6. Post-install verification
systemctl status hysteria-server
systemctl status hy2xs-admin
ss -H -lun | grep ':443'
ss -H -ltn | grep ':8080'
nft list ruleset
cat /var/lib/hy2xs/install-state.json
7. Permission verification
ls -l /etc/hy2xs/hy2xs.env
ls -l /etc/hysteria/config.yaml
sudo -u hysteria test -r /etc/hysteria/config.yaml
sudo -u hy2xs-admin test -r /etc/hysteria/config.yaml
sudo -u hy2xs-admin test ! -w /etc/hysteria/config.yaml
sudo -u hy2xs-admin test ! -r /etc/hy2xs/hy2xs.env
8. Firewall recovery
Если install/reconfigure падают после firewall apply:
- rollback guard не должен отменяться до успешного smoke;
- для recovery использовать вывод оркестратора и перезапускать apply только после устранения root-cause.
Откат после операционного отказа выполняется целиком и сам по себе не может
быть отменён: ни неудачной записью состояния в /var/lib/hy2xs, ни отказом
одной из своих стадий. Поэтому в журнале нужно читать две разные вещи:
| Строка в журнале | Что она означает |
|---|---|
failed to persist failure state, continuing with the mandatory rollback |
маркер не обновился (обычно заполненный диск), но восстановление выполнено; после освобождения места запустить doctor |
rollback stage "<имя>" failed, continuing with the remaining stages |
конкретная половина восстановления не отработала; остальные выполнены |
rollback finished with N failed stage(s); manual recovery may be required |
итог: перечисленные стадии требуют ручной проверки |
rollback completed: N stage(s) succeeded |
восстановление отработало полностью |
Наружу оркестратор всегда пробрасывает исходную ошибку операции, а не проблему внутри отката: последняя — это информация о том, что осталось не восстановленным, а не причина отказа.
9. Reconfigure flow
hy2xs-orchestrator reconfigure --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env --dry-run
hy2xs-orchestrator reconfigure --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env --apply
10. Admin bootstrap credentials
HY2XS_ADMIN_INITIAL_PASSWORDиHY2XS_ADMIN_CON_PASS— install-only bootstrap поля.- изменение значений в
/etc/hy2xs/hy2xs.envпосле install не выполняет автоматическую ротацию существующих credentials.
11. IPv4/IPv6 policy
- HY2XS работает в IPv4-only режиме.
- если IPv6 включён на хосте/провайдере — это вне baseline и должно быть отдельно управляемо оператором.
HY2XS_DNS_AAAA_POLICYуправляет реакцией preflight на DNS AAAA:strict(default) — install/reconfigure прекращается при наличии AAAA;warn— выводится warning и выполнение продолжается;off— AAAA-проверка игнорируется.
11a. Публичный endpoint
- preflight проверяет, что A-записи
HY2XS_PUBLIC_HOST(иHY2XS_DOMAIN, если он отличается) ведут на публичные IPv4 этого сервера; - проверка работает в
install,reconfigureиdoctor; - адрес сервера определяется локально по интерфейсам, без обращения к внешним сервисам определения IP;
HY2XS_PUBLIC_ENDPOINT_POLICYуправляет строгостью:strict(default) — расхождение останавливает операцию;warn— warning и продолжение (NAT, floating IP, anycast);off— сравнение не выполняется;
- отсутствие A-записи остаётся фатальным при любом значении политики.
Типичный сценарий, ради которого это сделано: провайдер принудительно сменил
IPv4, DNS остался старым. До v1 doctor в такой ситуации отвечал успехом, а
клиентская ссылка отправляла людей на чужую машину.
12. Validation command
hy2xs-orchestrator doctor --package-dir /usr/local/lib/hy2xs/package --config /etc/hy2xs/hy2xs.env
Команда выполняет preflight + smoke как post-install/post-reboot validation.
doctor не перезапускает сервисы: он диагностирует работающую установку.
Раньше он собирал контекст с параметрами по умолчанию и звал общий smoke, а тот
первым же действием выполняет systemctl restart hysteria-server hy2xs-admin —
то есть команда, которую этот раздел предлагает запускать при подозрении на
проблему, гарантированно обрывала все живые VPN-соединения, включая случай,
когда с сервисом всё в порядке. Диагностика, меняющая то, что диагностирует,
отвечает не на заданный вопрос: после рестарта проверяется уже другое состояние.
Остальные проверки smoke выполняются полностью — слушатели, права и владельцы
файлов, machine auth (включая негативные случаи), семантика
/etc/hysteria/config.yaml против production-профиля, версия установленного
бинаря. Состояние сервера ни одна из них не меняет.
Перезапуск сервисов остаётся операцией install, reconfigure --apply и
repair — там он является частью применения изменений, а не проверкой.
13. Admin UI access via SSH tunnel
Production policy: UI остаётся loopback-only (HY2XS_UI_BIND_HOST=127.0.0.1), внешний доступ к 8080/tcp не открывается.
Операторский доступ выполняется через SSH local forwarding.
Windows tunnel command:
ssh -p 2323 \
-i C:\Users\kirap\.ssh\id_ed25519_uk1 \
-N \
-L 127.0.0.1:8080:127.0.0.1:8080 \
root@185.156.108.141
Open in browser: http://127.0.0.1:8080/#/login.
Если туннель падает с administratively prohibited, проверить effective sshd-конфиг:
sshd -T | grep -E '^(port|allowtcpforwarding|permitopen|gatewayports|passwordauthentication|permitrootlogin) '
Recommended sshd hardening fragment:
Port 2323
PubkeyAuthentication yes
PasswordAuthentication no
KbdInteractiveAuthentication no
PermitRootLogin prohibit-password
AllowTcpForwarding local
PermitOpen 127.0.0.1:8080 localhost:8080
GatewayPorts no
X11Forwarding no
AllowAgentForwarding no
MaxAuthTries 3
LoginGraceTime 20
ClientAliveInterval 300
ClientAliveCountMax 2
14. Secret-safe config sharing
Для передачи конфигов в тикеты/чаты используйте встроенную redaction-команду:
hy2xs-orchestrator redact-config --config /etc/hy2xs/hy2xs.env --out /root/hy2xs.redacted.env
hy2xs-orchestrator redact-config --config /etc/hysteria/post-install.env --out /root/post-install.redacted.env
hy2xs-orchestrator redact-config --config /etc/hysteria/config.yaml --out /root/hysteria-config.redacted.yaml --format yaml
Инварианты:
- команда не выводит исходные секреты в stdout;
- требуется выбрать ровно один режим:
--in-placeили--out <path>; --format autoпытается определить формат по имени файла, при неоднозначности используйте--format env|yaml;- YAML редактируется структурно (документ разбирается и обходится как дерево),
поэтому вложенные секреты вроде
auth.http.url?access_token=…не переживают редакцию, а результат остаётся валидным YAML; - в env-файлах секрет вырезается и из URL-значения, даже если имя ключа
несекретное — например,
HY2_AUTH_URLвpost-install.env.
Та же редакция применяется к diagnostics-бандлу
(hy2xs-orchestrator diagnostics collect), который собирается автоматически при
неудачной установке или реконфигурации. Бандл предназначен для передачи наружу,
поэтому попадающие в него hy2xs.env, post-install.env и config.yaml
редактируются перед упаковкой.
При отказе до начала применения изменений (fatal_pre_apply) бандл не
собирается: его сбор сам создал бы каталоги в /var/log/hy2xs на сервере,
который мы обещали не трогать.