redox-wayland-compositor/docs/phase4-display-backend.md

317 lines
13 KiB
Markdown
Raw Normal View History

# Phase 4 — Display backend Redox : résultats
> Document produit le 2026-05-08 dans le cadre du plan directeur
> `REDOX_COSMIC_XWAYLAND_RS_PLAN.md`.
>
> **Périmètre** : valider qu'un binaire Rust userspace peut ouvrir le display
> Redox, énumérer les modes via le subset DRM/KMS, et allouer un buffer
> hardware-backed pour le rendu.
## Verdict global
**✅ Pipeline display backend Redox accessible et fonctionnel.**
Le crate `redox-wl-test-display-backend` a tourné dans une session Redox
réelle (image bootée via `make qemu audio=no`), depuis la console VT 2,
avec succès complet de la séquence :
```
ConsumerHandle::new_vt()
└─> open_display_v2()
└─> V2GraphicsHandle::from_file()
└─> resource_handles().connectors() → 1 connecteur
└─> mode 1280x800
└─> get_driver_capability(DumbBuffer) → Ok(1)
└─> CpuBackedBuffer::new(64x64, Argb8888) → OK
└─> shadow_buf().fill(pattern)
└─> sync_rect()
└─> destroy()
```
**Aucun blocage.** Le display backend Redox fonctionne directement avec
les APIs Orbital sans modification.
## Sortie complète du test
Capturée le 2026-05-08 dans la console VT 2 de Redox bootée via `make qemu` :
```
[disp] Phase 4 display backend test on Redox
[disp] VT env = None
[disp] inputd consumer handle opened
[disp] display file opened from inputd path
[disp] V2GraphicsHandle created
[disp] 1 connector(s) reported by KMS subset
[disp] #0 connector connector::Handle(19): state=Connected, 1 mode(s)
[disp] first mode: 1280x800
[disp] 1 connected display(s)
[disp] driver caps: dumb_buffer=Ok(1) cursor=?x?
[disp] CpuBackedBuffer allocated 64x64 ARGB8888 (shadow=false)
[disp] painted test pattern + sync_rect
[disp] CpuBackedBuffer destroyed
[disp] PASS: display backend pipeline reachable
```
Notes :
- `VT env = None` : le binaire a été lancé manuellement, pas via init.
Pour un compositor en production, il sera lancé par init avec `VT=N` et
appellera `inputd -A N` (déjà branché dans le code, désactivé sans VT).
- `cursor=?x?` : `get_driver_capability(CursorWidth/Height)` retourne Err
pour ce display QEMU. Pas critique, on a `DumbBuffer=Ok(1)` qui suffit.
- `shadow=false` : `DumbPreferShadow` capability vaut 0 sur ce backend,
donc les writes vont direct au framebuffer (pas de shadow buffer en RAM).
## Fait notable : coexistence avec Orbital
Au moment du test, Orbital tournait sur **VT 3** (init `20_orbital`).
Notre binaire a été lancé depuis **VT 2** (console getty depuis `30_console`).
inputd a accepté **deux handlers consumer** simultanés sur deux VTs
distincts, et le scheme `display.*` a été accessible depuis le second
handler sans conflit avec celui d'Orbital.
C'est une **bonne nouvelle pour la stratégie de coexistence du plan directeur** :
on peut développer un compositor Wayland sur un VT séparé tout en gardant
Orbital opérationnel sur le sien — sans modifier l'init Redox.
## Implications pour la suite
### Ce qui est désormais validé
1. Le subset DRM/KMS Redox (`graphics-ipc::V2GraphicsHandle`) est
complet pour les besoins d'un compositor minimal :
- énumération connecteurs/encoders/CRTCs
- création/destruction de DumbBuffers
- mapping CPU writable + sync rect (= dirty_framebuffer)
- support driver capabilities (DumbBuffer, DumbPreferShadow)
2. La crate Rust `drm 0.15` upstream fonctionne directement sur Redox
sans patch (déjà confirmé en compile time, maintenant en runtime).
3. La fondation pour un `RedoxOutput` (cf phase 4 du plan directeur)
est en place : il suffit de wrapper ce qu'on a fait dans le test
en une struct propre + ajouter modeset (`set_crtc`) et page-flipping.
### Ce qui reste pour un display backend complet
Le test ne fait **pas** :
- **modeset/scanout** : on alloue un buffer mais on ne fait pas
`set_crtc(crtc, fb, ...)` pour qu'il soit affiché. Orbital tient
déjà le CRTC sur VT 3. Pour vraiment "afficher", il faudra
prendre la place d'Orbital sur un VT (ou lui prendre VT 3).
- **page flipping** : pas de double buffering, pas de
`wait_for_vblank`, pas de `page_flip`.
- **hotplug** : pas d'écoute des events DRM (connector connect/disconnect).
- **resize** : `V2DisplayMap::resize_if_necessary` (cf Orbital
core/display.rs) à porter.
- **cursor plane** : alloc + `set_cursor` non testés (driver caps
cursor=Err sur QEMU desktop, mais c'est dispo selon Orbital).
Toutes ces étapes sont des extensions évidentes du test actuel,
documentées dans `orbital/src/core/display.rs` qu'on peut copier presque
verbatim.
Phase 4 vraie — pipeline OK, verrou fbbootlogd identifié Crates ajoutés : - redox-wl-display (lib) : RedoxOutput { open, take_crtc, pixels_mut, present, present_with_takeover, Drop } - redox-wl-fullscreen-paint (bin) : take CRTC + 30 frames ARGB animées Validation logique du pipeline display sur Redox bootée : - ConsumerHandle::new_vt() OK - open_display_v2() retourne le fd graphics-ipc - V2GraphicsHandle énumère 1 connecteur 1280x800 - CpuBackedBuffer ARGB8888 plein écran allocable - add_framebuffer + set_crtc + dirty_framebuffer répondent tous OK - 30 itérations sync_rect sans erreur ni leak Validation visuelle automatisée via QEMU monitor screendump : - QEMU en -display none + -monitor unix:socket - ncat -U envoie sendkey ret au bootloader puis screendump à T+15s - ImageMagick convertit PPM → PNG, visualisable Verrou identifié : fbbootlogd (lancé par init.initfs.d/20_fbbootlogd.service, embarqué dans le blob initfs) écrit directement dans le framebuffer mémoire mappé par vesad, hors du pipeline DRM. Il ne release pas le display quand notre paint fait set_crtc. Pour vrai visuel, il faut soit : 1. Consommer les events VT côté RedoxOutput (le pattern Orbital, propre) 2. Désactiver fbbootlogd dans l'image (rapide, debug) 3. Implémenter le handoff complet (long, prod) Le pipeline étant validé, on peut passer phase 5 (input backend) et revenir sur le visuel quand on aura un compositor qui consomme les events VT. docs/phase4-display-backend.md enrichi avec l'analyse complète. Leyoda 2026 – GPLv3
2026-05-09 10:11:06 +02:00
## Phase 4 vraie : tentative et limite identifiée (2026-05-08 soir)
Crates créés :
- `redox-wl-display` (lib) : `RedoxOutput` avec `open()` + `take_crtc()`
+ `pixels_mut()` + `present()` + `present_with_takeover()` + Drop
- `redox-wl-fullscreen-paint` (bin) : prend le CRTC sur VT 2, peint un
dégradé ARGB animé sur 30 frames
**Pipeline logique** : toutes les API DRM répondent OK (open, énumère
connecteurs, alloc CpuBackedBuffer, add_framebuffer, set_crtc, sync_rect,
dirty_framebuffer). Aucune erreur retour.
**Validation visuelle automatisée** : QEMU lancé sans display via
`-display none`, monitor unix socket pour `screendump`. Captures PPM 1280x800
prises pendant et après l'exécution du paint. Conversion en PNG via ImageMagick
pour visualisation.
### Verrou rencontré
L'écran capturé montre **les logs kernel + init en mode texte**, pas notre
dégradé. Notre paint a bien tourné (lignes `[paint]` visibles dans la
capture, écrites par `fbcond` sur le framebuffer texte), mais le rendu
graphique de notre `present_with_takeover()` n'apparaît pas.
**Cause** : `fbbootlogd` (lancé par `init.initfs.d/20_fbbootlogd.service`,
embarqué dans le blob initfs) écrit **directement dans la mémoire
framebuffer** mappée par vesad, hors du pipeline DRM. Il est ouvert sur le
scheme `consumer_bootlog` qui force VT 1 actif (cf inputd `main.rs:189`).
Les essais infructueux :
1. `inputd -A <vt>` après `take_crtc` : warning "switch to non-existent VT"
parce que l'env var `VT=N` mise par init n'est pas le VT alloué par inputd
(inputd auto-incrémente depuis 2)
2. `VT=2` (vrai VT alloué) + `inputd -A 2` : retour OK mais l'écran reste
sur la sortie fbbootlogd
3. Désactivation de `30_console` : aucun changement (fbbootlogd est dans
l'initfs, pas dans `/usr/lib/init.d/`)
4. `set_crtc` à chaque frame (`present_with_takeover`) : pas d'effet visuel
(fbbootlogd ne lit pas le CRTC, il écrit directement en mémoire)
### Cas où Orbital arrive à afficher
Dans le boot standard, Orbital remplace bien fbbootlogd à l'écran. Mais
Orbital reçoit un signal **VtEvent::Activate** via inputd et fait un *handoff*
explicite avec fbbootlogd (cf `inputd::ConsumerHandleEvent::Handoff` qui
arrête fbbootlogd quand un autre VT prend la main).
Notre `RedoxOutput` ne consomme pas les events VT, donc le handoff ne se
déclenche pas et fbbootlogd reste actif.
### Étapes restantes pour le visuel
Trois pistes, par coût croissant :
1. **Consommer les events VT côté `RedoxOutput`** — ajouter une boucle
`consumer.read_events()` qui détecte `Handoff` et release/re-take le CRTC
en conséquence. C'est ce que fait Orbital. **~1 jour de travail.**
2. **Désactiver fbbootlogd dans l'image** — modifier
`~/Projets/Redox/base/init.initfs.d/20_fbbootlogd.service` (commentaire
`cmd =`), puis `make all` dans `redox-src/`. Pratique pour test mais pas
pour production. **~15 min build + 5 min config.**
3. **Implémenter le protocole inputd handler complet** — release_display,
handoff réciproque, gestion full du switch VT. **~3-5 jours de travail.**
La piste 1 est celle qu'utilise Orbital, donc la cible légitime. La piste 2
permet de valider visuellement plus tôt.
### Validation indirecte
Même sans visuel, le pipeline est validé par :
- les codes de retour OK de toutes les API DRM (set_crtc, dirty_framebuffer)
- les lignes `[paint] frame X/30 présentée` qui sortent à chaque iteration
- la persistance du buffer `CpuBackedBuffer` (alloc + écriture + sync sans
panic, plusieurs centaines de fois sans fuite mémoire visible)
2026-05-09 10:46:20 +02:00
## VICTOIRE 2026-05-09 — phase 4 vraie validée visuellement
Capture : ![](phase4-victory-1280x800.png)
L'écran QEMU montre intégralement le dégradé ARGB animé écrit par notre
binaire `redox-wl-fullscreen-paint`, plein écran 1280x800. Aucune trace
de bootlog, fbcond ou fbbootlogd. C'est notre code Rust qui pilote le
framebuffer Redox.
### La cause racine du verrou (3 bugs en cascade)
Bug 1 — **`ConsumerHandle` était local à `RedoxOutput::open()`** et droppé
à la sortie de la fonction. inputd-daemon réagissait avec `on_close` qui
retire le VT de `self.vts`. Tous les `inputd -A <vt>` ultérieurs
retournaient warning "switch to non-existent VT".
Bug 2 — **L'env var `VT=N` posée par init n'a aucun lien avec le VT
réellement alloué par inputd**. inputd auto-incrémente `next_vt_id` à
partir de 2 (VT 1 réservé bootlog). On dénombrait :
- VT 1 = `consumer_bootlog` de fbbootlogd
- VT 2 = consumer de fbcond (lancé par `init.initfs.d/20_fbcond.service`)
- VT 3 = notre consumer
Bug 3 — **Sans le bon VT activé, `set_crtc` est silencieusement no-op**
côté `driver-graphics` (cf `lib.rs:575` : `if *vt == self.active_vt {
self.adapter.set_crtc(...) }`).
### Le fix
```rust
pub struct RedoxOutput {
/// CONSUMER GARDÉ EN VIE : si on le drop, inputd retire notre VT et
/// `inputd -A <vt>` dira "non-existent".
_consumer: ConsumerHandle,
// ...
/// VT alloué par inputd, lu via fpath() sur le consumer fd.
/// (cf `inputd::main.rs:271-281` qui retourne `display.scheme/<vt>`)
vt: usize,
}
```
Et le binaire qui appelle :
```rust
let our_vt = output.vt(); // VT exact alloué par inputd
Command::new("inputd").arg("-A").arg(our_vt.to_string()).status()?;
thread::sleep(Duration::from_millis(300)); // propagation active_vt
output.take_crtc()?; // set_crtc passe la condition
output.present_with_takeover()?; // pixels visibles à l'écran
```
### Validation visuelle automatisée
Méthode reproductible dans le repo :
```bash
qemu-system-x86_64 \
... -vga std -display none \
-monitor unix:/tmp/qmp.sock,server,nowait \
-serial file:/tmp/qemu-serial.log ... &
sleep 2; printf "sendkey ret\n" | ncat -U /tmp/qmp.sock # passe bootloader
sleep 14; printf "screendump /tmp/frame.ppm\n" | ncat -U /tmp/qmp.sock
magick /tmp/frame.ppm /tmp/frame.png # convert
# Lire le PNG pour voir le rendu
```
### Implications pour la suite
Phase 4 entièrement validée. La fondation `RedoxOutput` est utilisable telle
quelle pour :
- Phase 5 (input backend) : ajouter `consumer.read_events()` pour récupérer
les events keyboard/mouse de inputd
- Phase 6 (surfaces shm composées) : composer plusieurs `wl_shm` buffers
dans le `pixels_mut()` de `RedoxOutput`
- Phase 7 (compositor utilisable) : ajouter focus, stacking, damage
tracking au-dessus
La piste 1 du plan (consommer events VT) reste utile à terme pour gérer le
hot-switch propre entre VTs (Ctrl+Alt+Fn), mais n'est plus bloquante pour
afficher.
Phase 4 vraie — pipeline OK, verrou fbbootlogd identifié Crates ajoutés : - redox-wl-display (lib) : RedoxOutput { open, take_crtc, pixels_mut, present, present_with_takeover, Drop } - redox-wl-fullscreen-paint (bin) : take CRTC + 30 frames ARGB animées Validation logique du pipeline display sur Redox bootée : - ConsumerHandle::new_vt() OK - open_display_v2() retourne le fd graphics-ipc - V2GraphicsHandle énumère 1 connecteur 1280x800 - CpuBackedBuffer ARGB8888 plein écran allocable - add_framebuffer + set_crtc + dirty_framebuffer répondent tous OK - 30 itérations sync_rect sans erreur ni leak Validation visuelle automatisée via QEMU monitor screendump : - QEMU en -display none + -monitor unix:socket - ncat -U envoie sendkey ret au bootloader puis screendump à T+15s - ImageMagick convertit PPM → PNG, visualisable Verrou identifié : fbbootlogd (lancé par init.initfs.d/20_fbbootlogd.service, embarqué dans le blob initfs) écrit directement dans le framebuffer mémoire mappé par vesad, hors du pipeline DRM. Il ne release pas le display quand notre paint fait set_crtc. Pour vrai visuel, il faut soit : 1. Consommer les events VT côté RedoxOutput (le pattern Orbital, propre) 2. Désactiver fbbootlogd dans l'image (rapide, debug) 3. Implémenter le handoff complet (long, prod) Le pipeline étant validé, on peut passer phase 5 (input backend) et revenir sur le visuel quand on aura un compositor qui consomme les events VT. docs/phase4-display-backend.md enrichi avec l'analyse complète. Leyoda 2026 – GPLv3
2026-05-09 10:11:06 +02:00
## Prochaine étape : phase 4 vraie
Le test actuel prouve **la possibilité technique**. La phase 4 vraie
consiste à :
1. Créer une crate `redox-wl-display` propre (pas un test, une lib)
- struct `RedoxOutput` qui wrappe `V2GraphicsHandle` + `Displays`
- méthodes `enumerate()`, `take_crtc()`, `present(buffer)`,
`release_crtc()`
2. Faire un binaire test qui **prend effectivement** le CRTC, écrit
un buffer plein écran, puis le rend (l'écran devient visible
du pattern écrit).
3. Tester en remplaçant temporairement `20_orbital` dans l'init
par notre binaire — Orbital ne tourne pas, notre binaire tient
le display, et l'écran montre notre rendu.
C'est le premier moment où **on aura de vrais pixels Redox sortis
de notre code** sur l'écran.
## Code source
```
crates/redox-wl-test-display-backend/
├── Cargo.toml # graphics-ipc, inputd, drm via git deps base.git
└── src/main.rs # 200 lignes, pattern Orbital simplifié
```
Build :
```bash
cd crates/redox-wl-test-display-backend
redoxer build --release
```
Test :
1. Monter `~/Projets/Redox/redox-src/build/x86_64/desktop/harddrive.img`
via `redoxfs` (cf README section "Voie B")
2. Copier le binaire dans `/usr/bin/` de l'image
3. Démonter
4. `cd ~/Projets/Redox/redox-src && make qemu audio=no QEMU_USER_FLAGS="-k fr"`
5. Ctrl+Alt+F2 → console VT 2
6. login `root` / mot de passe `password`
7. `redox-wl-test-display-backend`
---
*Fin du document de phase 4.*