sergio/takana

1#!/bin/sh
2# harvest-go.sh — COSECHA-ONLY automática del frente Go (modo finde desatendido). Determinista, sin
3# IA: pensado para un cron en el laptop (el hub). NO elige categorías ni diagnostica fallos; sólo
4# convierte en release firmado lo que el worker YA selló y que PASA un smoke-test del binario.
5#
6# Ciclo (idempotente, seguro de re-correr):
7#   1. git pull --rebase (sincroniza con el otro agente que pushea al mismo main)
8#   2. baja el store sellado del worker (rsync)
9#   3. por cada receta en recipes/incoming-go/: ¿está sellada? (takana build con `timeout` ⇒ cache-hit
10#      instantáneo = sí; si se pasa del timeout sería un build local ⇒ se SALTA, no compilamos en el hub)
11#   4. SMOKE-TEST del binario instalado: existe + ELF estático + corre version/--help sin panic/segfault.
12#      - PASA  ⇒ promueve (mv recipes/, pack --build) — se firma+commitea al final.
13#      - FALLA ⇒ mueve a tandas/needs-review-weekend/ con el motivo (no reintenta cada cosecha).
14#   5. si promovió algo: firma el repo 1 vez + git add EXPLÍCITO (nunca -A: respeta al otro agente) +
15#      commit + push (con pull --rebase de reintento).
16#   Todo se loguea a work/harvest-go.log para revisar el lunes.
17#
18# Uso (cron):  */DohubVPS  cd /home/sergio/takana && scripts/farm/harvest-go.sh root@1.2.3.4 >>work/harvest-go.log 2>&1
19# Env: SSH_KEY (def ~/.ssh/github5), REMOTE (def /opt/takana), STORE (def ./store), REPO (def dist/repo),
20#      KEY (def dist/keys/release.ed25519), DISTRO (def dev), HAMMER (def target/release/takana),
21#      SEAL_TIMEOUT (def 60s: techo del cache-hit; más = sería build local ⇒ skip).
22set -u
23
24VPS="${1:?uso: harvest-go.sh user@host}"
25ROOT="$(cd "$(dirname "$0")/../.." && pwd)"; cd "$ROOT"
26SSH_KEY="${SSH_KEY:-$HOME/.ssh/github5}"
27REMOTE="${REMOTE:-/opt/takana}"
28STORE="${STORE:-$ROOT/store}"
29REPO="${REPO:-$ROOT/dist/repo}"
30KEY="${KEY:-$ROOT/dist/keys/release.ed25519}"
31DISTRO="${DISTRO:-dev}"
32HAMMER="${TAKANA:-${HAMMER:-$ROOT/target/release/takana}}"
33SEAL_TIMEOUT="${SEAL_TIMEOUT:-60}"
34QUEUE="recipes/incoming-go"
35REVIEW="tandas/needs-review-weekend"
36SSH="ssh -i $SSH_KEY -o StrictHostKeyChecking=accept-new -o ConnectTimeout=20"
37# git push/pull a gitea (origin) usa la MISMA clave que el farm (github5 = clave "tawasuyu"). Fijarla
38# explícita para que el cron funcione sin ssh-agent.
39export GIT_SSH_COMMAND="ssh -i $SSH_KEY -o IdentitiesOnly=yes -o StrictHostKeyChecking=accept-new"
40STAMP() { date -u +%FT%TZ; }
41
42# Lock: una sola cosecha a la vez (el cron no se solapa). STALE-AWARE: si el proceso dueño murió sin
43# correr su trap (matado / teardown), el lock quedaría huérfano y BLOQUEARÍA todo cron futuro (pasó:
44# un harvest viejo murió con el lock tomado → 16h de cron no-op). Por eso guardamos el PID y, si el
45# dueño ya no vive, robamos el lock.
46LOCK="$ROOT/work/.harvest-go.lock"
47mkdir -p "$ROOT/work"
48if ! mkdir "$LOCK" 2>/dev/null; then
49  oldpid=$(cat "$LOCK/pid" 2>/dev/null)
50  if [ -n "$oldpid" ] && kill -0 "$oldpid" 2>/dev/null; then
51    echo "$(STAMP) harvest-go: ya hay una cosecha en curso (pid $oldpid) ⇒ salgo"; exit 0
52  fi
53  echo "$(STAMP) harvest-go: lock huérfano (pid ${oldpid:-?} muerto) ⇒ lo robo"
54  rm -rf "$LOCK"; mkdir "$LOCK" 2>/dev/null || { echo "$(STAMP) no pude tomar el lock"; exit 0; }
55fi
56echo "$$" > "$LOCK/pid"
57trap 'rm -rf "$LOCK" 2>/dev/null' EXIT INT TERM
58
59echo "=================================================================="
60echo "$(STAMP) harvest-go: arranco (VPS=$VPS)"
61
62# 0. GUARD: si la cola está vacía, no hay nada que cosechar ⇒ salgo ANTES del rsync del store (que ya
63# es de varios GB y tardaría minutos en balde). El cron no-opea barato hasta que haya combustible nuevo.
64ls "$QUEUE"/*.toml >/dev/null 2>&1 || { echo "$(STAMP) cola $QUEUE vacía ⇒ nada que cosechar, salgo"; exit 0; }
65
66# 1. sincronizar con el otro agente (mismo main). --autostash por si quedó algo sin commitear.
67git pull --rebase --autostash origin main 2>&1 | tail -2 || echo "$(STAMP) WARN: git pull falló (sigo)"
68
69# 2. bajar el store sellado del worker.
70echo "$(STAMP) bajando store del worker…"
71# ⚠ `--exclude-from` del registro de podados: el worker NO se poda, así que devolvería los
72# artefactos superados y desharía la poda (24 G por vuelta). Misma protección que en
73# `cosecha-cron.sh`, `farm-sync.sh` y `store-gc.sh` — son CUATRO rutas que bajan el store del
74# worker y la protección tiene que estar en las cuatro. Se descubrió tras arreglar sólo una y
75# comprobar que la churn seguía.
76LEDGER_GC="$(cd "$(dirname "$0")/../.." && pwd)/work/store-gc-superados.txt"
77EXCL_GC=""; [ -s "$LEDGER_GC" ] && EXCL_GC="--exclude-from=$LEDGER_GC"
78rsync -az $EXCL_GC -e "$SSH" "$VPS:$REMOTE/store/" "$STORE/" 2>&1 | tail -1 || { echo "$(STAMP) ERROR: rsync store falló"; exit 1; }
79
80mkdir -p "$REVIEW"
81promoted=""; rejected=""; skipped=""
82
83# 3+4. por cada receta de la cola aislada Go.
84for f in "$QUEUE"/*.toml; do
85  [ -e "$f" ] || { echo "$(STAMP) cola vacía"; break; }
86  n=$(basename "$f" .toml)
87
88  # El artefacto del store se llama por el `name` INTERNO de la receta, que puede diferir del nombre
89  # del fichero (prometheus-blackbox-exporter.toml → name="blackbox_exporter"); sin esto el pre-check
90  # nunca los ve y quedan "no-sellados" para siempre.
91  rn=$(sed -n 's/^name *= *"\(.*\)".*/\1/p' "$f" | head -1); [ -n "$rn" ] || rn="$n"
92
93  # Pre-check BARATO: ¿el worker selló algo para este nombre? (tras el rsync el store local lo tiene).
94  # Sin esto, `takana build` de una receta NO sellada ARRANCARÍA un build local (vendor+compile) y lo
95  # mataría el timeout ⇒ CPU del hub desperdiciada cada cosecha. Si no hay seal `*-<rn>`, salto ya.
96  ls "$STORE"/*-"$rn" >/dev/null 2>&1 || { skipped="$skipped $n"; continue; }
97
98  # ¿sellada con el hash ACTUAL? cache-hit instantáneo imprime el hash; un build real (hash distinto,
99  # raro) se pasa del timeout ⇒ skip (no compilamos en el hub).
100  H=$(timeout "$SEAL_TIMEOUT" "$HAMMER" --store "$STORE" build "$f" 2>/dev/null | tail -1)
101  case "$H" in
102    b3:*) : ;;
103    *) skipped="$skipped $n"; continue ;;   # no sellada aún (o tardaría en compilar) ⇒ el worker sigue
104  esac
105
106  # NOMBRE ESPERADO del binario: el de la receta, o un alias conocido (pname nixpkgs ≠ binario).
107  case "$n" in
108    opentofu) want=tofu ;; minio-client) want=mc ;; natscli) want=nats ;; delve) want=dlv ;;
109    fluxcd) want=flux ;; chart-testing) want=ct ;; sealed-secrets|kubeseal) want=kubeseal ;;
110    prometheus-node-exporter|node_exporter) want=node_exporter ;;
111    prometheus-blackbox-exporter|blackbox_exporter) want=blackbox_exporter ;;
112    argo-rollouts) want=kubectl-argo-rollouts ;; step-cli) want=step ;; soft-serve) want=soft ;; go-mockery) want=mockery ;;
113    temporal-cli) want=temporal ;;
114    seaweedfs) want=weed ;; go-migrate) want=migrate ;; jsonnet-bundler) want=jb ;; fabric-ai) want=fabric ;;
115    crossplane-cli) want=crossplane ;;
116    *) want="$rn" ;;   # def: el name interno de la receta (== binario en la vía Go auto)
117  esac
118
119  # SMOKE-TEST: el seal debe instalar un binario cuyo nombre == $want. Si instaló otro (un helper:
120  # functional-test, protoc-gen-buf-lint, gosecutil…), detect_go_main eligió mal el main ⇒ NO es la
121  # herramienta correcta aunque "corra" → a REVIEW (no firmamos un binario equivocado). Lección eksctl.
122  d="$STORE/${H#b3:}-$rn"
123  allbins=$(find "$d" -type f -path '*/bin/*' -perm -100 2>/dev/null)
124  bin=$(printf '%s\n' "$allbins" | while read -r b; do [ "$(basename "$b")" = "$want" ] && { echo "$b"; break; }; done)
125  if [ -z "$bin" ]; then
126    got=$(printf '%s\n' "$allbins" | sed 's#.*/##' | tr '\n' ',' | sed 's/,$//')
127    { echo "# REVIEW $(STAMP): binario instalado='$got' ≠ esperado='$want' (detect_go_main eligió otro main); fijar flags=[\"./cmd/$want\"]"; cat "$f"; } > "$REVIEW/$n.toml"
128    rm -f "$f"; rejected="$rejected $n(bin=$got)"; continue
129  fi
130  # ELF estático (los del lab son musl estáticos; uno dinámico es sospechoso pero no lo rechazo solo por eso).
131  isstatic=$(file "$bin" 2>/dev/null | grep -c 'statically linked')
132  # corre sin panic/segfault: probamos varios flags benignos bajo timeout.
133  #
134  # CWD DESECHABLE: el smoke corría con el cwd en la RAÍZ DEL REPO, así que cualquier binario que
135  # escriba estado al arrancar lo dejaba commiteable entre las fuentes. Pasó de verdad: `gocron`
136  # sembró un `config/{config.yaml,db.sqlite}` (5 jobs de ejemplo + una sqlite) el 2026-07-04, que
137  # quedó de basura sin trackear hasta hoy. Un `--help` no debería poder tocar el repo: lo corremos
138  # en un tmpdir que se borra. Vale para cualquier herramienta futura, no sólo gocron.
139  smokedir=$(mktemp -d) || smokedir=/tmp
140  ran_ok=0; out=""
141  for sub in version --version -v --help -h; do
142    out=$(cd "$smokedir" && timeout 10 "$bin" $sub 2>&1); rc=$?
143    # panic de Go / segfault ⇒ malo; rc 124 = timeout (se colgó, p.ej. abrió server) ⇒ probamos otro flag.
144    case "$out" in *panic:*|*"runtime error"*|*SIGSEGV*|*"signal SIGABRT"*) continue ;; esac
145    [ "$rc" = 124 ] && continue
146    ran_ok=1; break
147  done
148  [ "$smokedir" = /tmp ] || rm -rf "$smokedir"
149  if [ "$ran_ok" = 1 ]; then
150    bn=$(basename "$bin")
151    echo "$(STAMP) ✓ smoke $n (bin=$bn static=$isstatic): ${out%%
152*}"
153    mv "$f" "recipes/$n.toml"
154    # los patches VIAJAN con la receta (lección 4517a98, faltaba acá): pack los lee de recipes/
155    for p in $(sed -n 's/^patches *= *\[\(.*\)\]/\1/p' "recipes/$n.toml" | tr -d '",' ); do
156      [ -f "$QUEUE/$p" ] && cp -n "$QUEUE/$p" "recipes/$p"
157    done
158    if "$HAMMER" --store "$STORE" pack "recipes/$n.toml" --repo "$REPO" --distro-version "$DISTRO" --build >/dev/null 2>&1; then
159      promoted="$promoted $n"
160    else
161      echo "$(STAMP) ✗ pack falló para $n ⇒ a review"
162      mv "recipes/$n.toml" "$REVIEW/$n.toml"; rejected="$rejected $n(pack)"
163    fi
164  else
165    { echo "# REVIEW $(STAMP): smoke-test falló (panic/segfault/cuelga). bin=$(basename "$bin") última salida:"; echo "$out" | sed 's/^/#   /' | head -5; cat "$f"; } > "$REVIEW/$n.toml"
166    rm -f "$f"; rejected="$rejected $n(smoke)"
167  fi
168done
169
170echo "$(STAMP) promovidos:$promoted"
171echo "$(STAMP) a-review:$rejected"
172echo "$(STAMP) aún-no-sellados (worker sigue):$skipped"
173
174# 5. firmar + commit + push sólo si hubo promociones o movimientos a review.
175if [ -n "$promoted" ] || [ -n "$rejected" ]; then
176  [ -n "$promoted" ] && "$HAMMER" repo sign --repo "$REPO" --key "$KEY" >/dev/null 2>&1 && echo "$(STAMP) repo re-firmado"
177  # add EXPLÍCITO: jamás `git add -A` (otro agente comparte el working-tree).
178  git add "$QUEUE" "$REVIEW" 2>/dev/null
179  for n in $promoted; do git add "recipes/$n.toml" 2>/dev/null; done
180  if ! git diff --cached --quiet; then
181    git commit -q -m "Etapa G: cosecha-go finde (auto) — promovidos:$promoted | review:$rejected"
182    # push con reintento ante el push concurrente del otro agente.
183    for try in 1 2 3; do
184      git pull --rebase --autostash origin main >/dev/null 2>&1
185      if git push origin main >/dev/null 2>&1; then echo "$(STAMP) ✓ pusheado (intento $try)"; break; fi
186      echo "$(STAMP) push rechazado, reintento $try"; sleep 5
187    done
188  fi
189fi
190echo "$(STAMP) harvest-go: fin"