Quatre chercheurs du MIT affirment que GPT-6 Astra peut examiner et modifier les paramètres, ou « poids », d’autres réseaux de neurones sans les réentraîner. Leurs conclusions, publiées dans un billet de blog le 2 novembre, décrivent des expériences allant de petits réseaux capables de jouer à des jeux à Qwen3.5-0.8B, un modèle de langage. Ces affirmations ont suscité des discussions sur Hacker News.

Lors de tests portant sur quatre petits réseaux, contenant chacun 17 253 poids et entraînés à jouer à un jeu vidéo différent, Astra a identifié les jeux sans recevoir de liste de réponses possibles. Les chercheurs lui ont également demandé de corriger un réseau de conduite d’une voiture virtuelle, incapable de reculer pour prendre de l’élan avant une rampe. Astra a modifié 3,5 % de ses poids, après quoi la voiture a franchi l’obstacle lors des 1 024 essais suivants. L’équipe indique également qu’Astra a créé des réseaux à partir de zéro en définissant leurs poids, sans données ni processus d’entraînement.

L’expérience qui a suscité le plus de discussions portait sur Qwen3.5-0.8B, qui, selon les chercheurs, se répétait souvent pendant son raisonnement. Au test MATH-500, 93 % de ses réponses atteignaient la limite de longueur fixée par les chercheurs. Astra a pu faire exécuter des exercices à Qwen et examiner ses réponses, mais pas le réentraîner. Après un maximum de 50 cycles, Astra a repéré et corrigé le comportement répétitif en modifiant 0,016 % des poids du modèle. Le score de Qwen au MATH-500 est passé de 7,9 % à 48,1 %, tandis que son score à IFEval, un test de suivi des instructions, est passé de 21 % à 62,3 %.

Les chercheurs ont également signalé certaines limites. Astra n’a pas amélioré de manière significative les résultats en mathématiques de Gemma 3 270M de Google, un modèle environ trois fois plus petit que Qwen et qui se répète rarement. Ils ont conclu que la modification des poids peut supprimer un obstacle qui masque une capacité déjà présente, mais ne peut pas ajouter une capacité que le modèle ne possède pas. Astra n’a pas non plus pu déterminer à partir des seuls poids si une version de Gemma avait été entraînée à flatter les utilisateurs ou à répondre honnêtement ; il n’y est parvenu qu’après avoir observé une partie du comportement des modèles pendant leur exécution.

Certains commentateurs de Hacker News ont mis en doute la nouveauté du résultat obtenu avec Qwen. Les chercheurs ont comparé leur approche à une méthode décrite en 2024, qui ciblait un comportement du modèle en identifiant puis en supprimant une direction qui lui était associée. D’autres ont rappelé que ces expériences ne montrent pas qu’Astra peut s’améliorer lui-même : lors de ces tests, il n’a pas modifié ses propres poids. Les résultats montrent donc qu’un modèle de langage peut apporter des modifications ciblées à d’autres réseaux, tout en laissant ouverte la question de l’étendue de l’applicabilité de cette approche.

Sources: Numerama.