Le PDG d’Anthropic, Dario Amodei, a averti que le développement de l’IA s’accélère à mesure que les modèles deviennent plus aptes à contribuer à la création de leurs successeurs. Dans un essai intitulé « We Must Pace the Frontier », il a décrit ce processus comme une auto-amélioration récursive et plaidé pour un ralentissement du développement des systèmes de pointe afin de favoriser leur alignement sur les intérêts humains et de réduire les risques potentiels.

Une expérience récente menée par des chercheurs du Massachusetts Institute of Technology présente un exemple plus limité de développement de modèles assisté par l’IA. L’équipe a découvert que GPT-6 Astra d’OpenAI pouvait modifier directement les paramètres internes de Qwen3.5-0.8B, un modèle de langage développé par Alibaba et doté de 800 millions de paramètres. Selon les chercheurs, Astra a amélioré les performances mathématiques du modèle en ne modifiant que 0,016 % de ses paramètres, sans lancer de nouveau processus d’entraînement.

Ces paramètres comprennent des poids : des valeurs numériques qui déterminent dans quelle mesure les connexions au sein d’un réseau neuronal influent sur son comportement. Plutôt que de réentraîner Qwen, Astra a repéré un problème et ajusté les poids concernés, explique le compte rendu de l’étude.

Le résultat des chercheurs montre qu’un modèle d’IA peut apporter des modifications ciblées à un autre réseau, mais ne démontre pas une auto-amélioration récursive au sens strict. Les informations disponibles ne permettent pas non plus d’établir qu’un modèle a conçu de manière autonome un successeur plus performant que lui-même.

La modification directe des modèles pourrait offrir aux chercheurs une autre manière d’affiner les systèmes d’IA. Elle pourrait contribuer à accélérer les travaux scientifiques, à résoudre des problèmes qui nécessiteraient autrement un entraînement long et à favoriser le développement de modèles plus efficaces. Cette même capacité pourrait aussi entraîner des erreurs, des vulnérabilités difficiles à détecter ou des comportements inattendus si les modifications ne sont pas soigneusement évaluées.

Si les systèmes d’IA modifient de plus en plus leurs propres composants ou d’autres modèles, il pourrait devenir plus difficile d’évaluer et de contrôler les changements successifs, en particulier si les améliorations s’accumulent au fil des générations.

Sources: Xataka.