sergio/takana

1#!/usr/bin/env bash
2# reconstruir-corpus.sh — reconstruye TODO lo que esté en deuda, en serie y de forma reanudable.
3#
4# ── CUÁNDO SE USA ───────────────────────────────────────────────────────────────────────────────
5# Cuando algo mueve el `ArtifactHash` de todo el corpus a la vez. Hoy eso es UNA cosa: cambiar la
6# imagen del lab (`scripts/lab-image.sh --crear` + pinear el sha nuevo), porque desde el 2026-08-10
7# el toolchain entra en `hash_inputs`. No es un accidente que sea caro: ése es el precio explícito
8# de cambiar de compilador, y antes se pagaba sin enterarse (dos labs sellaban bytes distintos en
9# la misma dirección).
10#
11# ── POR QUÉ EN SERIE, Y NO ES NEGOCIABLE ────────────────────────────────────────────────────────
12# `hammer build` comparte `work/sources/<dep>-<sha>`. Dos builds que compartan una dep se pisan el
13# árbol y queda ROTO PARA SIEMPRE (ADR 0012, sin decidir; ~93 de 205 recetas KDE murieron así al
14# invalidar libdrm). Todo el run va bajo UN `flock work/.farm-build.lock`, el mismo que toman los
15# scripts de la granja, así que también nos serializa con ellos y con cualquier otro agente.
16#
17# ── REANUDABLE POR CONSTRUCCIÓN ─────────────────────────────────────────────────────────────────
18# No lleva estado propio: la pregunta "¿esto ya está?" se la hace al store con `hammer hash --check`
19# (~2 ms, sin construir). Matarlo y relanzarlo continúa donde iba. Un run entero sobre un corpus ya
20# construido son unos segundos de puros --check.
21#
22# ── EL DISCO ES EL LÍMITE REAL, NO LA CPU ───────────────────────────────────────────────────────
23# Cada sellado añade un artefacto y cada build deja su árbol en `work/sources/`. Entre receta y
24# receta —con NADA corriendo, que es cuando es trivialmente seguro— se purgan los árboles si el
25# disco baja del umbral. Purgar CON un build en vuelo le arranca los ficheros al compilador: pasó
26# el 2026-08-10 y se llevó por delante un kernel a medias.
27#
28# Uso:   scripts/reconstruir-corpus.sh [--seco]
29# Env:   MIN_LIBRE_GB (def 25) umbral de purga · ABORT_GB (def 10) aborta antes de llenar el disco
30set -uo pipefail
31
32ROOT="$(cd "$(dirname "$0")/.." && pwd)"; cd "$ROOT"
33HAMMER="${HAMMER:-$ROOT/target/release/hammer}"
34STORE="${STORE:-./store}"
35LOCK="$ROOT/work/.farm-build.lock"
36LOG="${LOG:-$ROOT/work/reconstruccion.log}"
37MIN_LIBRE_GB="${MIN_LIBRE_GB:-25}"
38ABORT_GB="${ABORT_GB:-10}"
39SECO=0; [ "${1:-}" = "--seco" ] && SECO=1
40
41libre_gb() { df -BG --output=avail "$ROOT" 2>/dev/null | tail -1 | tr -dc 0-9; }
42ts() { date -u +%Y-%m-%dT%H:%M:%SZ; }
43
44# EL ORDEN IMPORTA, aunque las deps se resuelvan solas. `hammer build` construye recursivamente lo
45# que le falta, así que cualquier orden termina — pero no cualquier orden es útil a mitad de camino.
46# Hay 1186 ficheros de receta y sólo ~440 alcanzan alguna imagen; el resto son catálogo y colas de
47# staging. Construyendo por orden alfabético, tras un día de máquina no habría NI UNA imagen
48# completa. Se ordena por objetivo: primero las clausuras de los perfiles de `targets.toml`
49# (base, cli, escritorio-*), después todo lo demás. Así cada perfil que cierra es utilizable ya.
50ORDEN="$ROOT/work/reconstruccion-orden.txt"
51python3 - "$ORDEN" <<'PY'
52import json, os, sys, subprocess
53# Las raíces salen de `targets.toml` vía su expansor oficial (scripts/targets.py), NO de los nodos
54# de build-state: ese grafo es el corpus ENTERO, así que usarlo marcaba 1161 de 1161 como
55# prioritarias y el orden no ordenaba nada. `targets.py` da lo que una imagen pide por nombre.
56PERFILES = ["base", "cli", "escritorio-mirada", "escritorio-sway",
57            "escritorio-cosmic", "escritorio-kde", "escritorio-gnome"]
58prioritarios, orden_perfil = set(), []
59for p in PERFILES:
60    r = subprocess.run(["python3", "scripts/targets.py", p], capture_output=True, text=True)
61    if r.returncode != 0:
62        continue
63    nombres = [l.strip() for l in r.stdout.split() if l.strip()]
64    orden_perfil.append((p, len(nombres)))
65    prioritarios.update(nombres)
66# La CLAUSURA (las libs de las que cuelgan las raíces) se saca del grafo siguiendo las aristas.
67d = json.load(open("docs/state/build-state.json"))
68nodos = d.get("nodes", {})
69pila, vistos = list(prioritarios), set()
70while pila:
71    x = pila.pop()
72    if x in vistos:
73        continue
74    vistos.add(x)
75    pila += nodos.get(x, {}).get("deps", [])
76prioritarios = vistos
77# os.walk y no glob: `recipes/**/*.toml` se dejaba 25 ficheros fuera y no se nota mirando el total.
78#
79# `.deferred/` FUERA: son recetas APARCADAS por diseño y no construyen sueltas — sus `deps.build`
80# resuelven contra el directorio hermano, que ahí no existe, así que fallan al instante con
81# «no pude cargar la dep de build 'zlib' de 'git' (recipes/incoming/.deferred/zlib.toml)».
82# Son 25 y cada una gasta un intento. Intentarlas no es sólo inútil: mete 25 FALLA en el log que
83# parecen roturas del corpus y esconden las de verdad.
84todas = []
85for dirpath, _, files in os.walk("recipes"):
86    if ".deferred" in dirpath.split(os.sep):
87        continue
88    todas += [os.path.join(dirpath, f) for f in files if f.endswith(".toml")]
89todas.sort()
90# El nombre del artefacto es el campo `name`, no el del fichero (17 recetas difieren), pero para
91# ORDENAR alcanza el basename: equivocarse acá sólo cambia la prioridad, nunca la corrección.
92pri = [f for f in todas if os.path.basename(f)[:-5] in prioritarios]
93resto = [f for f in todas if os.path.basename(f)[:-5] not in prioritarios]
94with open(sys.argv[1], "w") as fh:
95    fh.write("\n".join(pri + resto) + "\n")
96print(f"   orden: {len(pri)} de perfil primero, {len(resto)} de catálogo después")
97PY
98mapfile -t RECETAS < "$ORDEN"
99echo "== $(ts) reconstrucción: ${#RECETAS[@]} recetas · libre $(libre_gb) G" | tee -a "$LOG"
100
101if [ "$SECO" = "1" ]; then
102  pend=0
103  for f in "${RECETAS[@]}"; do
104    "$HAMMER" --store "$STORE" hash "$f" --check >/dev/null 2>&1 || pend=$((pend+1))
105  done
106  echo "   en deuda: $pend de ${#RECETAS[@]}" | tee -a "$LOG"
107  exit 0
108fi
109
110exec 9>"$LOCK"
111echo "== esperando el lock de build…" | tee -a "$LOG"
112flock 9
113echo "== $(ts) lock tomado" | tee -a "$LOG"
114
115ok=0; falla=0; cache=0; i=0
116for f in "${RECETAS[@]}"; do
117  i=$((i+1))
118  n="$(basename "$f" .toml)"
119
120  if "$HAMMER" --store "$STORE" hash "$f" --check >/dev/null 2>&1; then
121    cache=$((cache+1)); continue
122  fi
123
124  l=$(libre_gb)
125  if [ "${l:-0}" -lt "$ABORT_GB" ]; then
126    echo "!! $(ts) ABORTO: quedan ${l} G (< ${ABORT_GB}). Sellado $ok, fallo $falla." | tee -a "$LOG"
127    exit 1
128  fi
129  if [ "${l:-0}" -lt "$MIN_LIBRE_GB" ]; then
130    # Seguro por construcción: acá NO hay ningún build corriendo (somos el único, y en serie).
131    echo "   [$(ts)] libre ${l} G < ${MIN_LIBRE_GB} ⇒ purgo work/sources" | tee -a "$LOG"
132    rm -rf work/sources/* 2>/dev/null
133    echo "   libre tras purgar: $(libre_gb) G" | tee -a "$LOG"
134  fi
135
136  t0=$(date +%s)
137  if "$HAMMER" --store "$STORE" build "$f" >>"$ROOT/work/reconstruccion-detalle.log" 2>&1; then
138    ok=$((ok+1)); estado=OK
139  else
140    falla=$((falla+1)); estado=FALLA
141  fi
142  printf '%s [%4d/%4d] %-6s %-40s %4ds  libre %sG\n' \
143    "$(ts)" "$i" "${#RECETAS[@]}" "$estado" "$n" "$(( $(date +%s) - t0 ))" "$(libre_gb)" | tee -a "$LOG"
144done
145
146echo "== $(ts) FIN · sellado $ok · fallo $falla · ya-estaba $cache · libre $(libre_gb) G" | tee -a "$LOG"