1# Booteando arje — initramfs, QEMU y bare metal
2
3`arje` es el init absorbido por brahman: `arje-zero` corre como PID 1, lee
4la **Tarjeta Semilla** (`/ente/seed.card.json`), monta `/proc /sys /dev
5/sys/fs/cgroup`, y encarna recursivamente cada Card declarada en
6`genesis` vía `arje-incarnate::Incarnator` (`clone(2)` + namespaces + cgroup v2).
7
8Este documento describe el ciclo completo:
9
101. **Layout** del initramfs.
112. **Build** del initrd (`scripts/build-arje-initrd.sh`).
123. **Boot en QEMU** (`scripts/run-arje-qemu.sh`).
134. **Boot en bare metal / VM persistente** (entrada de GRUB).
145. **Tarjeta Semilla** — qué pone, qué valida, cómo customizar.
156. **Debugging**: tracing, sockets de introspección, snapshot/restore.
16
17---
18
19## 1. Layout del initramfs
20
21El initrd es un **CPIO + gzip** (formato `newc`, estándar Linux). Su raíz:
22
23```
24/init                           wrapper sh, ejecuta /sbin/arje-zero
25/sbin/arje-zero                 PID 1 (musl-static por default)
26/usr/sbin/arje-echo
27/usr/sbin/arje-policy-provider
28/usr/sbin/arje-*-compat         13 shims D-Bus (logind, hostnamed, …)
29/usr/bin/brahman-status         CLI: snapshot del broker (sesiones + matches)
30/usr/bin/busctl                 CLI: bus interno (list-entes, announce, …)
31/usr/bin/brainctl               CLI: cerebro (rules, entropy, crystals)
32/ente/seed.card.json            Tarjeta Semilla canónica
33/bin/{sh,ls,mount,…}            busybox-static
34/etc, /dev, /proc, /sys, /run   mountpoints vacíos
35/sys/fs/cgroup                  mountpoint cgroup v2
36```
37
38Path canónico de la semilla en **prod**: `/ente/seed.card.json` (ver
39`crates/core/arje-zero/src/seed.rs`). En **dev** (no PID 1):
40`./seed.card.json` en el cwd, o se sintetiza una mínima.
41
42## 2. Build del initrd
43
44### 2a. Por qué musl-static
45
46`arje-zero` corre como **PID 1**: si tiene cualquier dependencia dinámica
47(`libgcc_s.so.1`, `libc.so.6`, `ld-linux-x86-64.so.2`) que no está
48presente en el initramfs, el kernel paniquea con
49`error while loading shared libraries: libgcc_s.so.1`.
50
51Solución estándar: compilar contra el target `x86_64-unknown-linux-musl`,
52que produce un ELF **totalmente estático** (no necesita libc ni
53intérprete en runtime). Es el default del script.
54
55### 2b. Requisitos del host
56
57- `rust toolchain` con el target musl:
58  ```bash
59  rustup target add x86_64-unknown-linux-musl
60  ```
61- `musl-gcc` para crates con `build.rs` C (sled, blake3, etc.):
62  ```bash
63  apt install musl-tools           # Debian/Ubuntu
64  apk add musl-dev gcc             # Alpine
65  pacman -S musl                   # Arch
66  ```
67- `cpio`, `gzip` para empaquetar.
68- `busybox-static` para el userspace mínimo dentro del initramfs:
69  ```bash
70  apt install busybox-static       # Debian/Ubuntu
71  # Alpine ya trae busybox built-in
72  ```
73
74### 2c. Invocación
75
76```bash
77# Default: musl-static, semilla de prod, sale en out/arje.initrd.cpio.gz
78scripts/build-arje-initrd.sh
79
80# Customizar seed/salida:
81scripts/build-arje-initrd.sh seeds/arje-minimal.card.json out/min.cpio.gz
82
83# busybox-static no está en $PATH:
84BUSYBOX_BIN=/path/to/busybox scripts/build-arje-initrd.sh
85
86# Vendorear binarios extra estáticos:
87EXTRA_BINS="/usr/local/bin/strace-static" scripts/build-arje-initrd.sh
88
89# (NO RECOMENDADO) build glibc dinámico — kernel panic asegurado salvo que
90# vendorees libgcc_s + libc + ld-linux a mano:
91ARJE_TARGET=x86_64-unknown-linux-gnu scripts/build-arje-initrd.sh
92```
93
94### 2d. Qué hace el script
95
961. Verifica que el target musl esté instalado; si no, da el comando
97   exacto para instalarlo.
982. `cargo build --release --target x86_64-unknown-linux-musl` para
99   `arje-zero` + los 14 shims compat.
1003. Sanity-check con `file`: aborta si algún binario quedó dinámico.
1014. Valida la seed con `seeds/validate.sh` (parse + `Card::validate`).
1025. Verifica que `busybox` sea estático (también aborta si es dinámico).
1036. Stage en un tmpdir → copia binarios + crea mountpoints + escribe `/init`.
1047. Empaqueta `find . | cpio -o -H newc | gzip -9`.
105
106Tamaño típico (musl): ~10-15 MB descomprimido, 4-6 MB el `.cpio.gz`.
107
108## 3. Boot en QEMU
109
110Requisito: un kernel Linux + qemu-system-x86_64.
111
112### 3a. Con kernel del host
113
114```bash
115# Default: usa /boot/vmlinuz-$(uname -r)
116scripts/run-arje-qemu.sh
117
118# Con kernel explícito:
119scripts/run-arje-qemu.sh out/arje.initrd.cpio.gz /boot/vmlinuz-6.6.0
120```
121
122El script invoca:
123
124```
125qemu-system-x86_64
126  -accel kvm                    (si /dev/kvm está, fallback tcg)
127  -m 1024 -smp 2
128  -kernel <vmlinuz>
129  -initrd out/arje.initrd.cpio.gz
130  -append "rdinit=/init console=ttyS0,115200 panic=10"
131  -nographic -serial mon:stdio
132  -no-reboot
133```
134
135`rdinit=/init` le dice al kernel que el primer programa a ejecutar es
136nuestro `/init`, no `/sbin/init`. `console=ttyS0,115200` redirige el log
137del kernel + nuestro tracing a la serial → stdio del host. Salida con
138`Ctrl-A X`.
139
140### 3b. Sin kernel del host
141
142Bajar un kernel mínimo (ej. Ubuntu cloud kernel):
143
144```bash
145wget -O /tmp/vmlinuz \
146  https://cloud-images.ubuntu.com/jammy/current/unpacked/jammy-server-cloudimg-amd64-vmlinuz-generic
147scripts/run-arje-qemu.sh out/arje.initrd.cpio.gz /tmp/vmlinuz
148```
149
150O usar el kernel de Alpine (más liviano, ~10 MB):
151
152```bash
153wget -O /tmp/vmlinuz \
154  https://dl-cdn.alpinelinux.org/alpine/v3.20/releases/x86_64/netboot/vmlinuz-lts
155```
156
157### 3c. Override del cmdline
158
159`KERNEL_CMD="ente.log=debug"` se concatena al cmdline. Cosas útiles:
160
161| flag                       | efecto                                              |
162| -------------------------- | --------------------------------------------------- |
163| `panic=10`                 | reboot 10 s tras kernel panic (debug)               |
164| `loglevel=7`               | log del kernel hasta debug                          |
165| `quiet`                    | silencia banner kernel                              |
166| `RUST_LOG=trace`           | (no se interpreta; usar env en `/init`)             |
167| `init=/sbin/arje-zero`     | salta `/init`, ejecuta directo (no recomendado)     |
168
169`arje-zero` lee `RUST_LOG` y `BRAHMAN_*` del env. Para setearlas, editar
170`/init` antes de empaquetar, o agregar `-fw_cfg name=opt/foo,...` a qemu.
171
172### 3d. Smoke test esperado
173
174Con `seeds/arje-prod.card.json`:
175
176```
177arje-zero despierta como PID 1
178Tarjeta Semilla cargada y validada path=/ente/seed.card.json
179bus interno escuchando path=/run/arje-bus.sock
180brahman handshake escuchando (Unix) socket=/run/brahman-init.sock
181brahman admin escuchando socket=/run/brahman-admin.sock
182instanciando genesis seed=arje.seed.prod count=16
183Ente compat-logind encarnado pid=...
184Ente compat-hostnamed encarnado pid=...
185...
186arje#                          ← shell en tty
187```
188
189Con `seeds/arje-minimal.card.json`: solo el shell.
190
191## 4. Boot en bare metal / VM persistente
192
193El mismo `.cpio.gz` sirve como initramfs estándar de Linux. Entrada
194GRUB típica (`/etc/grub.d/40_custom` + `update-grub`):
195
196```
197menuentry "arje" {
198    linux  /boot/vmlinuz-6.6.0 rdinit=/init console=tty1 panic=10
199    initrd /boot/arje.initrd.cpio.gz
200}
201```
202
203Copiar a `/boot/`:
204
205```bash
206sudo cp out/arje.initrd.cpio.gz /boot/arje.initrd.cpio.gz
207sudo update-grub
208```
209
210Para una VM (Proxmox, libvirt, etc.) basta con apuntar el "Direct Kernel
211Boot" al vmlinuz y al initrd. En Proxmox: editar `/etc/pve/qemu-server/<vmid>.conf`:
212
213```
214args: -kernel /boot/vmlinuz-6.6.0 -initrd /boot/arje.initrd.cpio.gz \
215      -append "rdinit=/init console=ttyS0,115200 panic=10"
216serial0: socket
217```
218
219### 4a. Sin pivot_root (initramfs es el rootfs final)
220
221El initrd actual **no hace pivot_root** — se queda como rootfs. Esto es
222intencional: arje no asume nada del disco. Para persistencia, las Cards
223hijas deben montar el FS de disco a demanda (ej. `genesis: [{ label:
224"mount-data", payload: Native("/bin/mount", ["/dev/sda1", "/mnt"]), … }]`).
225
226Cuando necesites pivot_root a un FS real (instalación full-disk), agregar
227un Ente que haga `switch_root` antes de instanciar el resto — pendiente
228de implementar como `Capability::SwitchRoot`.
229
230## 5. Tarjeta Semilla — detalles
231
232### 5a. Seeds estándar
233
234| seed                          | uso                                                   |
235| ----------------------------- | ----------------------------------------------------- |
236| `seeds/arje-minimal.card.json` | PID 1 + 1 shell `/bin/sh`. Smoke test para QEMU.     |
237| `seeds/arje-prod.card.json`    | Constelación completa: 14 compat shims + getty.      |
238
239### 5b. Validación
240
241```bash
242seeds/validate.sh seeds/arje-prod.card.json
243```
244
245El script carga la Card vía `arje_brain::load_card_file()` (que llama a
246`brahman_card::Card::validate()`) y verifica que `arje-zero` la encarne
247hasta `instanciando genesis`.
248
249### 5c. Customizar
250
251Estructura de un genesis-child:
252
253```json
254{
255  "schema_version": 1,
256  "id": "<ULID Crockford base32 — no I L O U>",
257  "label": "mi-servicio",
258  "provides": ["Journal"],
259  "requires": [],
260  "permissions": {
261    "networking": "loopback",
262    "filesystem": "read-write",
263    "ipc": { "allow": ["wit-v1"] },
264    "processes": false
265  },
266  "soma": {
267    "namespaces": { "mount": true, "pid": true, "net": false, ...},
268    "rlimits": { "mem_bytes": 268435456 },
269    "cgroup": { "path": "ente.slice/mi-servicio", "cpu_weight": 100 }
270  },
271  "payload": { "Native": { "exec": "/usr/sbin/mi-bin", "argv": [], "envp": [] } },
272  "supervision": { "Restart": { "initial": 100, "max": 30000 } },
273  "lifecycle": "daemon",
274  "priority": "normal",
275  "flow": { "input": [], "output": [] },
276  "genesis": []
277}
278```
279
280Validación clave (`brahman_card::Card::validate`):
281
282- `schema_version == 1`.
283- `label` no vacío, ≤ 256 bytes.
284- ULID válido (Crockford base32, **sin `I L O U`**).
285- `provides ∩ requires == ∅`.
286- `Payload::Native.exec` no vacío.
287- `Payload::Wasm.module_sha256` no todo ceros.
288- rlimits: `mem_bytes > 0 && < 1 TiB`, `nproc ∈ [1, 65535]`, `nofile ∈ [1, 1M]`.
289- `cgroup.cpu_weight`, `io_weight ∈ [1, 10000]`.
290- `flow.input` y `flow.output` con nombres únicos.
291- Recursivo sobre `genesis`.
292
293## 6. Debugging
294
295### 6a. Tracing
296
297`arje-zero` usa `tracing-subscriber`. Default: `arje_zero=debug,info`.
298Override con `RUST_LOG`:
299
300```bash
301# En el initrd: editar /init antes de empaquetar
302echo 'export RUST_LOG="trace"' >> wrapper
303```
304
305### 6b. Sockets de introspección (Unix, dentro del initrd)
306
307Sin `XDG_RUNTIME_DIR` ni `TMPDIR` en el env de PID 1 (caso del initrd),
308los sockets caen al fallback `/tmp/`:
309
310| socket                       | env override            | servicio                                  |
311| ---------------------------- | ----------------------- | ----------------------------------------- |
312| `/tmp/arje-bus-*.sock`        | `ENTE_BUS_SOCK`         | bus interno (Announce/Invoke/ListEntes)   |
313| `/tmp/brahman-init.sock`      | `BRAHMAN_INIT_SOCKET`   | handshake brahman                         |
314| `/tmp/brahman-admin.sock`     | `BRAHMAN_ADMIN_SOCKET`  | snapshots de sesiones + matches           |
315| `/tmp/arje-brain.sock`        | `ENTE_BRAIN_SOCK`       | introspección del cerebro (rules, observer) |
316
317El initrd trae 3 CLI clients precompilados en `/usr/bin/`:
318
319```sh
320brahman-status          # snapshot completo: sesiones + matches + WIT + flows
321busctl list-entes       # entes anunciados en el bus
322busctl announce         # smoke test: anuncia una Card desde el shell
323busctl power-off        # apaga el fractal
324brainctl list-rules     # reglas crystallizadas + manuales
325brainctl entropy        # entropía del observer estadístico
326brainctl top 10         # top-10 kinds por frecuencia
327brainctl crystals       # patrones detectados con auto-promote
328brainctl crystal-json 0 # exporta un crystal específico como Rule JSON
329```
330
331Ejemplo de sesión típica dentro de la VM:
332
333```sh
334arje# brahman-status
335Init: server=0.1.0 protocol=0.1.0 attached=true
336Context: (sin set)
337
338Sessions (3):
339  [ente]  01HQ5R2K…  compat-logind     lifecycle=Daemon  priority=High
340  [ente]  01HQ5R2K…  compat-hostnamed  lifecycle=Daemon  priority=Normal
341  [ente]  01HQ5R2K…  echo-smoke        lifecycle=Daemon  priority=Low
342
343Matches (0):
344  (ninguno)
345
346arje# busctl list-entes
34714 entes en el bus:
348  01HQ… compat-logind        provides=[LegacyLogind]
349  01HQ… compat-journald      provides=[Journal]
350  …
351
352arje# brainctl top 5
353spawn 14
354arje_died 0
355…
356```
357
358Si en cambio querés conectar crudo con `socat`/`nc`, agregalo con
359`EXTRA_BINS=/usr/bin/socat-static scripts/build-arje-initrd.sh` y luego:
360
361```sh
362arje# socat - UNIX-CONNECT:/tmp/brahman-admin.sock | jq .
363```
364
365### 6c. Snapshot / restore
366
367```
368arje-zero --checkpoint /ente/checkpoint.json    # escribe al cerrar
369arje-zero --restore    /ente/checkpoint.json    # reconstruye al boot
370```
371
372Snapshot adjunto del cerebro: `/ente/checkpoint.brain.json`.
373
374### 6d. Metrics
375
376```
377arje-zero --metrics-addr 127.0.0.1:9911
378```
379
380Endpoint Prometheus desde dentro de la VM. Para exponerlo al host bajo
381QEMU, agregar `-netdev user,hostfwd=tcp::9911-:9911 -device virtio-net,netdev=…`.
382
383### 6e. Modo DEV en host (sin PID 1)
384
385`arje-zero` detecta si su PID != 1 y entra en **DEV MODE**: no monta
386kernel surface, no se vuelve subreaper, sale tras 4 s. Útil para
387iterar Cards en el host:
388
389```bash
390mkdir /tmp/arje-test && cp seeds/arje-minimal.card.json /tmp/arje-test/seed.card.json
391cd /tmp/arje-test && target/release/arje-zero
392```
393
394## 7. Troubleshooting
395
396### 7a. `error while loading shared libraries: libgcc_s.so.1` al boot
397
398**Causa**: el `/sbin/arje-zero` del initrd se compiló contra glibc
399(`x86_64-unknown-linux-gnu`) y depende dinámicamente de `libgcc_s.so.1`,
400`libc.so.6`, `ld-linux-x86-64.so.2`. Esas libs no están en el initramfs,
401el kernel mata PID 1 → panic.
402
403**Fix**: usar el target musl (default del script desde mayo 2026):
404
405```bash
406rustup target add x86_64-unknown-linux-musl
407apt install musl-tools             # Debian/Ubuntu — para crates con build.rs C
408scripts/build-arje-initrd.sh       # ya usa musl por default
409```
410
411Verificar manualmente que el binario quedó estático:
412
413```bash
414file target/x86_64-unknown-linux-musl/release/arje-zero
415# → "ELF 64-bit LSB executable, ..., statically linked, ..."
416```
417
418Si decidís quedarte en glibc dinámico, hay que vendorear `libgcc_s.so.1`,
419`libc.so.6` y `ld-linux-x86-64.so.2` (más cualquier dep de `tracing` y
420`tokio`) bajo `/lib64/` y `/lib/x86_64-linux-gnu/` del initrd. No
421recomendado.
422
423### 7b. Kernel panic: `Kernel panic - not syncing: Attempted to kill init!`
424
425**Causa**: `arje-zero` salió con error antes de bind del bus, o `/init`
426crashed antes de exec. PID 1 muriendo = panic kernel.
427
428**Fix**: agregar `panic=10` al cmdline (ya está en el script) para
429auto-reboot tras 10 s y ver el error. Bajo QEMU, `-no-reboot` lo
430convierte en exit limpio. Capturar el log:
431
432```bash
433HEADLESS=1 scripts/run-arje-qemu.sh 2>&1 | tee /tmp/arje-boot.log
434```
435
436Buscar la línea anterior a `Attempted to kill init`.
437
438### 7c. `seed inválida` al correr build-arje-initrd.sh
439
440**Causa**: el JSON tiene un ULID con caracteres prohibidos (`I L O U`
441están **excluidos** de Crockford base32), un `Payload::Native.exec`
442vacío, o un campo del schema rechazado por `brahman_card::Card::validate`.
443
444**Fix**: correr el validador directo para ver el error completo:
445
446```bash
447seeds/validate.sh seeds/mi-seed.card.json
448# Si falla, las primeras 40 líneas del log van a stderr.
449```
450
451### 7d. `cannot find -lcrypt` o `cannot find -lpam` al compilar musl
452
453**Causa**: algún crate del workspace pulled in una dep C que no
454encontró su lib bajo musl.
455
456**Fix**: para los crates de arje no debería pasar (revisamos las deps).
457Si ocurre con un crate nuevo, suele resolverse con `RUSTFLAGS="-C
458target-feature=+crt-static"` o aislando el feature problemático.
459
460---
461
462## Apéndice — checklist pre-deploy
463
464- [ ] `rustup target add x86_64-unknown-linux-musl` instalado en el host build.
465- [ ] `musl-tools` (Debian/Ubuntu) o equivalente disponible.
466- [ ] `busybox-static` disponible para vendorear userspace.
467- [ ] `cargo build --release --target x86_64-unknown-linux-musl -p arje-zero`
468      compila sin warnings.
469- [ ] `file target/x86_64-unknown-linux-musl/release/arje-zero` reporta
470      "statically linked".
471- [ ] `seeds/validate.sh seeds/arje-prod.card.json` → OK.
472- [ ] `scripts/build-arje-initrd.sh` produce `out/arje.initrd.cpio.gz`.
473- [ ] `scripts/run-arje-qemu.sh` arranca y muestra `Tarjeta Semilla cargada
474      y validada` + `instanciando genesis count=16` (o el count que toque).
475- [ ] Si vas a bare metal: tener un kernel `vmlinuz` rescue (ej. Alpine
476      netboot) en `/boot/` por si arje no levanta.
477- [ ] Para VMs Proxmox/libvirt: serial console habilitada para ver el
478      arranque sin display.