sergio/takana

1#!/bin/sh
2# harvest-go.sh — COSECHA-ONLY automática del frente Go (modo finde desatendido). Determinista, sin
3# IA: pensado para un cron en el laptop (el hub). NO elige categorías ni diagnostica fallos; sólo
4# convierte en release firmado lo que el worker YA selló y que PASA un smoke-test del binario.
5#
6# Ciclo (idempotente, seguro de re-correr):
7#   1. git pull --rebase (sincroniza con el otro agente que pushea al mismo main)
8#   2. baja el store sellado del worker (rsync)
9#   3. por cada receta en recipes/incoming-go/: ¿está sellada? (hammer build con `timeout` ⇒ cache-hit
10#      instantáneo = sí; si se pasa del timeout sería un build local ⇒ se SALTA, no compilamos en el hub)
11#   4. SMOKE-TEST del binario instalado: existe + ELF estático + corre version/--help sin panic/segfault.
12#      - PASA  ⇒ promueve (mv recipes/, pack --build) — se firma+commitea al final.
13#      - FALLA ⇒ mueve a tandas/needs-review-weekend/ con el motivo (no reintenta cada cosecha).
14#   5. si promovió algo: firma el repo 1 vez + git add EXPLÍCITO (nunca -A: respeta al otro agente) +
15#      commit + push (con pull --rebase de reintento).
16#   Todo se loguea a work/harvest-go.log para revisar el lunes.
17#
18# Uso (cron):  */DohubVPS  cd /home/sergio/hammer && scripts/farm/harvest-go.sh root@1.2.3.4 >>work/harvest-go.log 2>&1
19# Env: SSH_KEY (def ~/.ssh/github5), REMOTE (def /opt/hammer), STORE (def ./store), REPO (def dist/repo),
20#      KEY (def dist/keys/release.ed25519), DISTRO (def dev), HAMMER (def target/release/hammer),
21#      SEAL_TIMEOUT (def 60s: techo del cache-hit; más = sería build local ⇒ skip).
22set -u
23
24VPS="${1:?uso: harvest-go.sh user@host}"
25ROOT="$(cd "$(dirname "$0")/../.." && pwd)"; cd "$ROOT"
26SSH_KEY="${SSH_KEY:-$HOME/.ssh/github5}"
27REMOTE="${REMOTE:-/opt/hammer}"
28STORE="${STORE:-$ROOT/store}"
29REPO="${REPO:-$ROOT/dist/repo}"
30KEY="${KEY:-$ROOT/dist/keys/release.ed25519}"
31DISTRO="${DISTRO:-dev}"
32HAMMER="${HAMMER:-$ROOT/target/release/hammer}"
33SEAL_TIMEOUT="${SEAL_TIMEOUT:-60}"
34QUEUE="recipes/incoming-go"
35REVIEW="tandas/needs-review-weekend"
36SSH="ssh -i $SSH_KEY -o StrictHostKeyChecking=accept-new -o ConnectTimeout=20"
37# git push/pull a gitea (origin) usa la MISMA clave que el farm (github5 = clave "tawasuyu"). Fijarla
38# explícita para que el cron funcione sin ssh-agent.
39export GIT_SSH_COMMAND="ssh -i $SSH_KEY -o IdentitiesOnly=yes -o StrictHostKeyChecking=accept-new"
40STAMP() { date -u +%FT%TZ; }
41
42# Lock: una sola cosecha a la vez (el cron no se solapa). STALE-AWARE: si el proceso dueño murió sin
43# correr su trap (matado / teardown), el lock quedaría huérfano y BLOQUEARÍA todo cron futuro (pasó:
44# un harvest viejo murió con el lock tomado → 16h de cron no-op). Por eso guardamos el PID y, si el
45# dueño ya no vive, robamos el lock.
46LOCK="$ROOT/work/.harvest-go.lock"
47mkdir -p "$ROOT/work"
48if ! mkdir "$LOCK" 2>/dev/null; then
49  oldpid=$(cat "$LOCK/pid" 2>/dev/null)
50  if [ -n "$oldpid" ] && kill -0 "$oldpid" 2>/dev/null; then
51    echo "$(STAMP) harvest-go: ya hay una cosecha en curso (pid $oldpid) ⇒ salgo"; exit 0
52  fi
53  echo "$(STAMP) harvest-go: lock huérfano (pid ${oldpid:-?} muerto) ⇒ lo robo"
54  rm -rf "$LOCK"; mkdir "$LOCK" 2>/dev/null || { echo "$(STAMP) no pude tomar el lock"; exit 0; }
55fi
56echo "$$" > "$LOCK/pid"
57trap 'rm -rf "$LOCK" 2>/dev/null' EXIT INT TERM
58
59echo "=================================================================="
60echo "$(STAMP) harvest-go: arranco (VPS=$VPS)"
61
62# 0. GUARD: si la cola está vacía, no hay nada que cosechar ⇒ salgo ANTES del rsync del store (que ya
63# es de varios GB y tardaría minutos en balde). El cron no-opea barato hasta que haya combustible nuevo.
64ls "$QUEUE"/*.toml >/dev/null 2>&1 || { echo "$(STAMP) cola $QUEUE vacía ⇒ nada que cosechar, salgo"; exit 0; }
65
66# 1. sincronizar con el otro agente (mismo main). --autostash por si quedó algo sin commitear.
67git pull --rebase --autostash origin main 2>&1 | tail -2 || echo "$(STAMP) WARN: git pull falló (sigo)"
68
69# 2. bajar el store sellado del worker.
70echo "$(STAMP) bajando store del worker…"
71rsync -az -e "$SSH" "$VPS:$REMOTE/store/" "$STORE/" 2>&1 | tail -1 || { echo "$(STAMP) ERROR: rsync store falló"; exit 1; }
72
73mkdir -p "$REVIEW"
74promoted=""; rejected=""; skipped=""
75
76# 3+4. por cada receta de la cola aislada Go.
77for f in "$QUEUE"/*.toml; do
78  [ -e "$f" ] || { echo "$(STAMP) cola vacía"; break; }
79  n=$(basename "$f" .toml)
80
81  # El artefacto del store se llama por el `name` INTERNO de la receta, que puede diferir del nombre
82  # del fichero (prometheus-blackbox-exporter.toml → name="blackbox_exporter"); sin esto el pre-check
83  # nunca los ve y quedan "no-sellados" para siempre.
84  rn=$(sed -n 's/^name *= *"\(.*\)".*/\1/p' "$f" | head -1); [ -n "$rn" ] || rn="$n"
85
86  # Pre-check BARATO: ¿el worker selló algo para este nombre? (tras el rsync el store local lo tiene).
87  # Sin esto, `hammer build` de una receta NO sellada ARRANCARÍA un build local (vendor+compile) y lo
88  # mataría el timeout ⇒ CPU del hub desperdiciada cada cosecha. Si no hay seal `*-<rn>`, salto ya.
89  ls "$STORE"/*-"$rn" >/dev/null 2>&1 || { skipped="$skipped $n"; continue; }
90
91  # ¿sellada con el hash ACTUAL? cache-hit instantáneo imprime el hash; un build real (hash distinto,
92  # raro) se pasa del timeout ⇒ skip (no compilamos en el hub).
93  H=$(timeout "$SEAL_TIMEOUT" "$HAMMER" --store "$STORE" build "$f" 2>/dev/null | tail -1)
94  case "$H" in
95    b3:*) : ;;
96    *) skipped="$skipped $n"; continue ;;   # no sellada aún (o tardaría en compilar) ⇒ el worker sigue
97  esac
98
99  # NOMBRE ESPERADO del binario: el de la receta, o un alias conocido (pname nixpkgs ≠ binario).
100  case "$n" in
101    opentofu) want=tofu ;; minio-client) want=mc ;; natscli) want=nats ;; delve) want=dlv ;;
102    fluxcd) want=flux ;; chart-testing) want=ct ;; sealed-secrets|kubeseal) want=kubeseal ;;
103    prometheus-node-exporter|node_exporter) want=node_exporter ;;
104    prometheus-blackbox-exporter|blackbox_exporter) want=blackbox_exporter ;;
105    argo-rollouts) want=kubectl-argo-rollouts ;; step-cli) want=step ;; soft-serve) want=soft ;; go-mockery) want=mockery ;;
106    temporal-cli) want=temporal ;;
107    seaweedfs) want=weed ;; go-migrate) want=migrate ;; jsonnet-bundler) want=jb ;; fabric-ai) want=fabric ;;
108    crossplane-cli) want=crossplane ;;
109    *) want="$rn" ;;   # def: el name interno de la receta (== binario en la vía Go auto)
110  esac
111
112  # SMOKE-TEST: el seal debe instalar un binario cuyo nombre == $want. Si instaló otro (un helper:
113  # functional-test, protoc-gen-buf-lint, gosecutil…), detect_go_main eligió mal el main ⇒ NO es la
114  # herramienta correcta aunque "corra" → a REVIEW (no firmamos un binario equivocado). Lección eksctl.
115  d="$STORE/${H#b3:}-$rn"
116  allbins=$(find "$d" -type f -path '*/bin/*' -perm -100 2>/dev/null)
117  bin=$(printf '%s\n' "$allbins" | while read -r b; do [ "$(basename "$b")" = "$want" ] && { echo "$b"; break; }; done)
118  if [ -z "$bin" ]; then
119    got=$(printf '%s\n' "$allbins" | sed 's#.*/##' | tr '\n' ',' | sed 's/,$//')
120    { echo "# REVIEW $(STAMP): binario instalado='$got' ≠ esperado='$want' (detect_go_main eligió otro main); fijar flags=[\"./cmd/$want\"]"; cat "$f"; } > "$REVIEW/$n.toml"
121    rm -f "$f"; rejected="$rejected $n(bin=$got)"; continue
122  fi
123  # ELF estático (los del lab son musl estáticos; uno dinámico es sospechoso pero no lo rechazo solo por eso).
124  isstatic=$(file "$bin" 2>/dev/null | grep -c 'statically linked')
125  # corre sin panic/segfault: probamos varios flags benignos bajo timeout.
126  #
127  # CWD DESECHABLE: el smoke corría con el cwd en la RAÍZ DEL REPO, así que cualquier binario que
128  # escriba estado al arrancar lo dejaba commiteable entre las fuentes. Pasó de verdad: `gocron`
129  # sembró un `config/{config.yaml,db.sqlite}` (5 jobs de ejemplo + una sqlite) el 2026-07-04, que
130  # quedó de basura sin trackear hasta hoy. Un `--help` no debería poder tocar el repo: lo corremos
131  # en un tmpdir que se borra. Vale para cualquier herramienta futura, no sólo gocron.
132  smokedir=$(mktemp -d) || smokedir=/tmp
133  ran_ok=0; out=""
134  for sub in version --version -v --help -h; do
135    out=$(cd "$smokedir" && timeout 10 "$bin" $sub 2>&1); rc=$?
136    # panic de Go / segfault ⇒ malo; rc 124 = timeout (se colgó, p.ej. abrió server) ⇒ probamos otro flag.
137    case "$out" in *panic:*|*"runtime error"*|*SIGSEGV*|*"signal SIGABRT"*) continue ;; esac
138    [ "$rc" = 124 ] && continue
139    ran_ok=1; break
140  done
141  [ "$smokedir" = /tmp ] || rm -rf "$smokedir"
142  if [ "$ran_ok" = 1 ]; then
143    bn=$(basename "$bin")
144    echo "$(STAMP) ✓ smoke $n (bin=$bn static=$isstatic): ${out%%
145*}"
146    mv "$f" "recipes/$n.toml"
147    # los patches VIAJAN con la receta (lección 4517a98, faltaba acá): pack los lee de recipes/
148    for p in $(sed -n 's/^patches *= *\[\(.*\)\]/\1/p' "recipes/$n.toml" | tr -d '",' ); do
149      [ -f "$QUEUE/$p" ] && cp -n "$QUEUE/$p" "recipes/$p"
150    done
151    if "$HAMMER" --store "$STORE" pack "recipes/$n.toml" --repo "$REPO" --distro-version "$DISTRO" --build >/dev/null 2>&1; then
152      promoted="$promoted $n"
153    else
154      echo "$(STAMP) ✗ pack falló para $n ⇒ a review"
155      mv "recipes/$n.toml" "$REVIEW/$n.toml"; rejected="$rejected $n(pack)"
156    fi
157  else
158    { echo "# REVIEW $(STAMP): smoke-test falló (panic/segfault/cuelga). bin=$(basename "$bin") última salida:"; echo "$out" | sed 's/^/#   /' | head -5; cat "$f"; } > "$REVIEW/$n.toml"
159    rm -f "$f"; rejected="$rejected $n(smoke)"
160  fi
161done
162
163echo "$(STAMP) promovidos:$promoted"
164echo "$(STAMP) a-review:$rejected"
165echo "$(STAMP) aún-no-sellados (worker sigue):$skipped"
166
167# 5. firmar + commit + push sólo si hubo promociones o movimientos a review.
168if [ -n "$promoted" ] || [ -n "$rejected" ]; then
169  [ -n "$promoted" ] && "$HAMMER" repo sign --repo "$REPO" --key "$KEY" >/dev/null 2>&1 && echo "$(STAMP) repo re-firmado"
170  # add EXPLÍCITO: jamás `git add -A` (otro agente comparte el working-tree).
171  git add "$QUEUE" "$REVIEW" 2>/dev/null
172  for n in $promoted; do git add "recipes/$n.toml" 2>/dev/null; done
173  if ! git diff --cached --quiet; then
174    git commit -q -m "Etapa G: cosecha-go finde (auto) — promovidos:$promoted | review:$rejected"
175    # push con reintento ante el push concurrente del otro agente.
176    for try in 1 2 3; do
177      git pull --rebase --autostash origin main >/dev/null 2>&1
178      if git push origin main >/dev/null 2>&1; then echo "$(STAMP) ✓ pusheado (intento $try)"; break; fi
179      echo "$(STAMP) push rechazado, reintento $try"; sleep 5
180    done
181  fi
182fi
183echo "$(STAMP) harvest-go: fin"