Weight-Space Programming : quand les LLM deviennent neurochirurgiens

Et si on n'avait plus besoin d'entraîner un réseau pour le corriger ?

Une équipe de recherche a publié cet automne des résultats surprenants : des LLM de frontière arrivent à lire les poids bruts d'un réseau, à deviner ce qu'il a appris, à réparer un comportement défaillant en modifiant une petite fraction des paramètres, et parfois à écrire un réseau fonctionnel à partir de zéro. Sans gradient, sans données, sans réentraînement.

Le papier parle de « Weight-Space Programming ». Nous allons le prendre au sérieux — et le regarder de près.

Au programme
• Le changement de paradigme : pourquoi les poids sont devenus un objet que l'on peut lire, et pas seulement calculer
• Les trois capacités démontrées par les auteurs : lire, réparer, écrire — avec leurs chiffres et leurs protocoles
• Des démonstrations en direct sur des réseaux publics de petite taille : identification d'une politique à partir de ses poids, réparation d'une politique bloquée dans un environnement physique, évaluation d'un réseau écrit sans entraînement
• Ce que cela change pour l'interprétabilité, l'ingénierie de modèles et la sécurité
• Les limites, sans détour : contexte, vérification, reproductibilité avec des modèles ouverts

Ce que cette soirée n'est pas

Les résultats du papier ont été obtenus avec un modèle frontière propriétaire. Les démonstrations que nous proposons utilisent des modèles et des réseaux accessibles : certaines reproduisent les chiffres publiés, d'autres sont volontairement partielles — et nous dirons lesquelles. L'objectif est de comprendre le mécanisme et de repartir avec du code, pas d'annoncer un record.

Pour qui
Développeurs, ingénieurs ML, étudiants, curieux du fonctionnement interne des modèles. Des bases en Python aident, mais aucune expertise en mécanistique de l'interprétabilité n'est nécessaire.

Infos pratiques
L'enregistrement sera partagé avec les inscrits, ainsi que les scripts et les poids utilisés pendant la séance.