sergio/takana

1#!/bin/sh
2# Respaldo de takana al Storage Box de Hetzner (BX11, 1 TiB, hel1).
3#
4# ── POR QUÉ UN STORAGE BOX Y NO EL VOLUMEN ──────────────────────────────────────────────────────
5# El usuario pidió respaldar «en el volumen, aunque sea montándolo aquí». **No se puede**: un Hetzner
6# Cloud Volume es un dispositivo de bloque por RED que sólo se adjunta a servidores de Hetzner Cloud
7# del mismo datacenter — no se monta en un laptop, y encima sólo puede estar en UN servidor a la vez.
8# `harkaq-cosecha` (100 G) es el disco del worker efímero y `vvv` (260 G, en gioser) está al 78%.
9# El Storage Box SÍ es el producto para esto: se monta desde acá (SSHFS/CIFS) y habla rsync/borg/
10# restic por SSH. BX11 = 1 TiB por €3,20/mes, sin coste de alta. Ver [[capacidad-disco-proyeccion]].
11#
12# ── ES INTERRUMPIBLE Y CONTINUABLE. ESE ES EL DISEÑO, NO UN EFECTO SECUNDARIO ───────────────────
13# Medido en la oficina el 2026-08-07: el enlace da **8 Mbps de subida**, idénticos por cable (eth0)
14# y por wifi (wlan0) ⇒ el cuello NO está en el laptop, está en el uplink. Con 128 G de store eso son
15# ~35 h sin comprimir. Por lo tanto el respaldo NO se completa en una sentada, y todo el script está
16# construido alrededor de esa realidad:
17#   · rsync incremental: lo ya subido no se vuelve a subir (el store es CAS, los ficheros nunca
18#     cambian, así que la comparación por tamaño+fecha es exacta y baratísima).
19#   · `--partial-dir`: un fichero cortado a la mitad conserva el trozo y la próxima corrida lo
20#     TERMINA en vez de empezarlo de cero. Sin esto, cortar a mitad de un artefacto de 500 MB
21#     tiraría los 400 MB ya subidos.
22#   · Se puede matar con Ctrl-C o apagar el laptop en cualquier momento. Se relanza y sigue.
23#
24# ── EL ORDEN ES POR VALOR IRREEMPLAZABLE, NO POR TAMAÑO ─────────────────────────────────────────
25# Como no cabe todo en una ventana, lo que sube primero importa. De más a menos crítico:
26#   1. ESTADO Y REPO (~cientos de MB, minutos). Recetas, scripts, SDDs, el grafo. Es el CEREBRO: con
27#      esto solo, el store entero se reconstruye — caro en CPU, pero se reconstruye. Sin esto no hay
28#      proyecto. Va primero aunque ya esté espejado a GitHub, porque un respaldo que depende de otro
29#      respaldo no es un respaldo.
30#   2. HUÉRFANOS del store (~4,5 G). Artefactos que son el ÚNICO ejemplar de su receta: su hash
31#      vigente no está sellado, así que perderlos es perder trabajo real, no reconstruible en dos
32#      minutos. Es el material genuinamente irreemplazable y es sorprendentemente barato.
33#   3. EL RESTO DEL STORE (~128 G). Meses de CPU, pero todo reconstruible desde (1).
34#
35# ── POR QUÉ rsync PLANO Y NO borg/restic ────────────────────────────────────────────────────────
36# El store es CAS: los ficheros son INMUTABLES y se nombran por hash. Nunca cambian, sólo aparecen o
37# desaparecen. Para eso rsync incremental es exactamente lo correcto y no hay que mantener repos ni
38# claves de cifrado. Sí se usa COMPRESIÓN zstd, que aquí no es un lujo: medido, 53 MB tardan 53 s sin
39# comprimir y 27 s con `--compress-choice=zstd` — **el doble de rendimiento efectivo**, porque el 79%
40# del contenido del store son secciones `.debug_*` y comprimen como texto. Con un enlace de 8 Mbps la
41# CPU sobra y el ancho de banda es el recurso escaso: comprimir siempre gana.
42#
43# ── EL STORE NO SE BORRA EN EL DESTINO, A PROPÓSITO ─────────────────────────────────────────────
44# `--delete` NO va sobre el store. Un respaldo que replica los borrados no protege del borrado por
45# error, y el 2026-08-07 `store-gc.sh` demostró que puede equivocarse EN SILENCIO (reportó 364
46# artefactos borrados sin haber borrado ninguno). El respaldo acumula; podarlo es una decisión
47# deliberada y aparte. El repo sí va con `--delete`, que para eso está git.
48#
49# Uso:  scripts/respaldo-storagebox.sh [--seco]
50#       scripts/respaldo-storagebox.sh --listar   # refresca work/respaldo-sellados.txt y sale
51#       Relanzalo cuantas veces quieras: continúa donde quedó.
52#
53# ── `--listar`: el respaldo también es un REGISTRO, no sólo una copia ──────────────────────────
54# Desde que el store se mudó al volumen (2026-08-09), `build-state.py` y `farm-sync.sh` responden
55# «¿esto está sellado?» con la unión del disco local y los manifiestos, y el del respaldo es el más
56# completo de los dos. Sin refrescarlo, recetas que existen y están respaldadas se reportan como
57# deuda y el worker las rehace. Es barato (una lista de nombres) y no toca un solo byte de datos.
58set -eu
59
60SB_USER="${SB_USER:-u647150}"
61SB_HOST="${SB_HOST:-u647150.your-storagebox.de}"
62SB_PORT="${SB_PORT:-23}"          # 23 = SSH completo (rsync). El 22 sólo da SFTP/SCP restringido.
63KEY="${KEY:-$HOME/.ssh/github5}"
64RAIZ="${RAIZ:-/home/sergio/hammer}"
65
66SECO=""
67[ "${1:-}" = "--seco" ] && SECO="--dry-run"
68
69if [ "${1:-}" = "--listar" ]; then
70  cd "$RAIZ"; mkdir -p work
71  # `du -s`, NO `ls`. Un `ls` lista NOMBRES DE DIRECTORIO, y un artefacto VACÍO tiene nombre igual
72  # que uno bueno ⇒ el manifiesto lo avala, `build-state.py` lo da por sellado, rsync lo baja vacío
73  # y `takana build` hace cache-hit sobre el directorio vacío: sella sin construir y sale 0. Toda la
74  # cadena lee el vacío como presencia, y el único síntoma aparece al final, disfrazado de éxito.
75  # (2026-08-10: 7 vacíos de 1749, todos del stack gráfico, de una subida que falló callada.)
76  # Cuesta 8,6 s sobre 1751 artefactos frente a un `ls` instantáneo — barato para lo que evita.
77  # La shell del box no es bash y no tiene `find`, pero SÍ expande globs y SÍ tiene `du`.
78  # `du -s takana/store/[0-9a-f]*` y NO `store/*`: el glob amplio incluye `.dmerge`, la caché
79  # transitoria de fusión —48 GB el 2026-08-12—, y recorrerla hace que el listado tarde tanto que se
80  # corta por timeout. El sufijo del glob además descarta de entrada los `.bootstrap-tmp`/`.mirror-tmp`
81  # que nunca son artefactos. Un artefacto SIEMPRE empieza por hex: filtrar en el origen es más barato
82  # que traerse la basura y descartarla aquí.
83  ssh -4 -p "$SB_PORT" -i "$KEY" -o StrictHostKeyChecking=accept-new \
84      "$SB_USER@$SB_HOST" 'du -s hammer/store/[0-9a-f]*' 2>/dev/null > work/.respaldo-du.tmp
85  # OJO CON EL ORDEN: recortar la ruta ANTES del awk se come el contador (`sed 's#.*/##'` es codicioso
86  # y borra "5347<TAB>takana/store/" entero), y entonces $1 es el NOMBRE, no los bloques: el filtro
87  # compara basura y devuelve cualquier cosa. Primero se filtra por número, después se recorta.
88  # Campo 1 = bloques. Un directorio sin contenido da 1..4; con contenido, mucho más.
89  awk '$1<=4 {sub(/.*\//,"",$2); print $2}' work/.respaldo-du.tmp \
90    | grep -E '^[0-9a-f]{64}-' | sort -u > work/respaldo-vacios.txt
91  awk '$1>4  {sub(/.*\//,"",$2); print $2}' work/.respaldo-du.tmp \
92    | grep -E '^[0-9a-f]{64}-' | sort -u > work/respaldo-sellados.txt.new
93  rm -f work/.respaldo-du.tmp
94  N=$(wc -l < work/respaldo-sellados.txt.new)
95  V=$(wc -l < work/respaldo-vacios.txt)
96  # Un listado vacío es un fallo de red disfrazado de respaldo borrado. No pisa nada.
97  if [ "$N" -eq 0 ]; then
98    echo "⚠ el box devolvió 0 artefactos — no piso el manifiesto (¿enlace caído?)" >&2
99    rm -f work/respaldo-sellados.txt.new; exit 1
100  fi
101  mv work/respaldo-sellados.txt.new work/respaldo-sellados.txt
102  echo "==> manifiesto del respaldo: $N artefactos → work/respaldo-sellados.txt"
103  # Se DICE siempre, aunque sea 0: un guardián que sólo habla cuando hay desastre no enseña a nadie
104  # qué está vigilando, y el día que hable nadie sabrá interpretarlo.
105  if [ "$V" -gt 0 ]; then
106    echo "⚠ $V artefactos VACÍOS en el respaldo (excluidos del manifiesto) → work/respaldo-vacios.txt" >&2
107    sed 's/^/    /' work/respaldo-vacios.txt >&2
108    echo "    curar = reconstruir la receta y volver a subirla; NO se cuentan como respaldadas" >&2
109  else
110    echo "    (0 artefactos vacíos)"
111  fi
112  exit 0
113fi
114
115# `-4` a propósito: el box tiene AAAA y el laptop tiene IPv6 sólo en wlan0, así que sin esto la ruta
116# por cable nunca se usaría aunque el cable estuviera enchufado.
117SSH_CMD="ssh -4 -p $SB_PORT -i $KEY -o StrictHostKeyChecking=accept-new -o ServerAliveInterval=30"
118
119# Opciones comunes. `--partial-dir` es lo que hace el respaldo continuable a mitad de fichero.
120# `--exclude /.dmerge`: son directorios TRANSITORIOS de fusión del store — aparecen y desaparecen
121# mientras takana sella. rsync los empieza a copiar, se esfuman a media transferencia y devuelve 23
122# («some files/attrs were not transferred»). Como 23 está en la lista de reintentables, el bucle los
123# reintentó **40 veces seguidas** y se rindió con el respaldo a medias (79 G de 127 G), sin que el
124# mensaje dijera nunca que la culpa era de un directorio temporal. `cosecha-cron.sh` ya los excluía;
125# este script no, y ésa era toda la diferencia.
126# ⇒ Un error reintentable que se repite 40 veces no es un corte de red: es algo estructural. Vale la
127#   pena que el bucle distinga «se cayó una vez» de «falla siempre igual».
128# `--info=progress2` SÓLO con terminal. Sin TTY reescribe la misma línea con `\r` y, como nadie
129# interpreta el retorno de carro, el «progreso» se acumula: una subida dejó un log de **2,6 MB**
130# donde lo único que importaba era la última línea. Con el respaldo corriendo desatendido (que es
131# como se corre), ese log es la única forma de saber qué pasó — y a 2,6 MB no se lee.
132PROG=""; [ -t 1 ] && PROG="--info=progress2"
133RS="rsync -a --partial-dir=.rsync-partial --exclude /.dmerge $PROG -z --compress-choice=zstd --compress-level=3"
134
135# ── REINTENTOS: EL ENLACE SE CAE, Y ESO NO ES EXCEPCIONAL ───────────────────────────────────────
136# Primera corrida real (2026-08-07): tras subir el cerebro y 2,3 G de store, murió con
137# `Connection reset by peer` / `Broken pipe` y rsync salió con 255. Con una subida de ~19 h sobre un
138# enlace de oficina, que la conexión se corte no es un accidente: es lo NORMAL. Un respaldo que hay
139# que relanzar a mano cada vez que se cae no se completa nunca, porque nadie está mirando.
140#
141# Como rsync ya es incremental y `--partial-dir` conserva los trozos, reintentar es barato y seguro:
142# cada intento retoma donde quedó. El bucle sólo insiste ante fallos de RED (códigos 10/12/23/30/35/
143# 255); un error de verdad —permisos, disco lleno en destino, ruta inexistente— sale a la primera en
144# vez de repetirse 40 veces contra la misma pared.
145reintentar() {
146  etiqueta="$1"; shift
147  intento=1
148  while :; do
149    "$@" && return 0
150    rc=$?
151    case "$rc" in
152      10|12|23|30|35|255) ;;                       # red / pipe roto / timeout: insistir
153      # 24 = «ficheros de origen desaparecieron durante la transferencia». NO es un fallo: pasa
154      # cuando `store-gc.sh` poda artefactos superados mientras el respaldo corre, que es una
155      # combinación NORMAL en este proyecto (el respaldo dura ~19 h y la poda es la válvula del
156      # disco). Sin esta línea el bucle lo tomaría por «error que no es de red» y PARARÍA el
157      # respaldo entero por algo inofensivo — y encima justo cuando el disco aprieta, que es cuando
158      # menos conviene quedarse sin copia.
159      24) ;;
160      *) echo "!!  $etiqueta: error $rc que NO es de red — no reintento"; return "$rc" ;;
161    esac
162    if [ "$intento" -ge 40 ]; then
163      echo "!!  $etiqueta: 40 intentos y sigue cayéndose. Dejo lo subido y paro."; return "$rc"
164    fi
165    espera=$(( intento < 6 ? intento * 10 : 60 ))
166    echo "..  $etiqueta: corte de red (rsync $rc). Intento $intento; reanudo en ${espera}s."
167    intento=$((intento + 1))
168    sleep "$espera"
169  done
170}
171
172# ── LA COMPROBACIÓN INICIAL TAMBIÉN REINTENTA ──────────────────────────────────────────────────
173# Era un `if` de un solo intento, y el 2026-08-07 tiró la corrida al relanzar el respaldo justo al
174# llegar a casa: el wifi todavía no había levantado, el `ssh` falló una vez y el script se rindió con
175# «no hay SSH» — cuando medio minuto después conectaba perfecto. Es el peor momento para rendirse:
176# quien relanza un respaldo interrumpido acaba de cambiar de red, así que el hipo es LO ESPERABLE.
177# Mismo criterio que el bucle de transferencia: insistir es barato, rendirse cuesta una noche.
178intento=1
179until $SSH_CMD "$SB_USER@$SB_HOST" 'df -h .' >/dev/null 2>&1; do
180  if [ "$intento" -ge 20 ]; then
181    echo "!!  No hay SSH al Storage Box ($SB_HOST:$SB_PORT) tras 20 intentos."
182    echo "!!  Si acabás de crearlo, el DNS tarda unos minutos en propagar."
183    exit 1
184  fi
185  echo "..  sin SSH al box todavía (¿red recién levantada?). Intento $intento; reintento en 15s."
186  intento=$((intento + 1))
187  sleep 15
188done
189
190echo "==> destino: $SB_USER@$SB_HOST:$SB_PORT  ${SECO:+(SECO)}"
191$SSH_CMD "$SB_USER@$SB_HOST" 'mkdir hammer hammer/store hammer/repo hammer/estado' >/dev/null 2>&1 || true
192
193# ── 1. EL CEREBRO: estado + repo. Minutos, y es lo que no se puede perder. ──────────────────────
194echo "==> [1/3] estado (el grafo: qué había construido y con qué hash)"
195reintentar estado $RS $SECO -e "$SSH_CMD" "$RAIZ/docs/state/" "$SB_USER@$SB_HOST:hammer/estado/" || true
196
197echo "==> [2/3] repo (recetas, scripts, SDDs — el cerebro; con esto solo se reconstruye el store)"
198reintentar repo $RS --delete $SECO -e "$SSH_CMD" \
199  --exclude /store --exclude /store-rust --exclude /store-kern \
200  --exclude /work --exclude /target --exclude /.dev-fs --exclude /dist --exclude /.scratch \
201  "$RAIZ/" "$SB_USER@$SB_HOST:hammer/repo/"
202
203# ── 2 y 3. EL STORE, huérfanos primero. ────────────────────────────────────────────────────────
204# La lista de huérfanos la produce `store-gc.sh` como subproducto; si no hay una reciente, se sube
205# el store entero en un solo paso y santas pascuas (rsync es incremental: no se pierde nada).
206echo "==> [3/3] store (128 G a 8 Mbps ⇒ NO cabe en una sentada; esto se corta y se continúa)"
207HUER="$(ls -t "$RAIZ"/work/store-gc-huerfanos-*.txt 2>/dev/null | head -1)"
208if [ -n "$HUER" ] && [ -s "$HUER" ]; then
209  echo "    · huérfanos primero ($(wc -l < "$HUER") artefactos, únicos ejemplares) — desde $HUER"
210  reintentar huerfanos $RS $SECO -e "$SSH_CMD" --files-from="$HUER" "$RAIZ/store/" "$SB_USER@$SB_HOST:hammer/store/" || true
211fi
212echo "    · resto del store"
213reintentar store $RS $SECO -e "$SSH_CMD" "$RAIZ/store/" "$SB_USER@$SB_HOST:hammer/store/"
214
215echo "==> ocupación en el Storage Box:"
216$SSH_CMD "$SB_USER@$SB_HOST" 'df -h .' 2>/dev/null | tail -2