Vier MIT-Forscher sagen, GPT-6 Astra könne die Parameter oder „Gewichte“ anderer neuronaler Netze untersuchen und verändern, ohne diese erneut zu trainieren. Ihre Erkenntnisse, die am 2. November in einem Blogbeitrag veröffentlicht wurden, beschreiben Experimente mit kleinen Netzwerken, die Spiele spielen, bis hin zum Sprachmodell Qwen3.5-0.8B. Die Behauptungen lösten auf Hacker News Diskussionen aus.

Bei Tests mit vier kleinen Netzwerken, die jeweils 17.253 Gewichte enthielten und darauf trainiert worden waren, ein anderes Videospiel zu spielen, identifizierte Astra die Spiele, ohne eine Liste möglicher Antworten zu erhalten. Die Forscher baten Astra außerdem, ein virtuelles Autosteuerungsnetzwerk zu reparieren, das nicht rückwärtsfahren konnte, um vor einer Rampe Schwung aufzubauen. Astra änderte 3,5 % seiner Gewichte; anschließend überwand das Auto das Hindernis in allen 1.024 folgenden Versuchen. Das Team berichtet außerdem, Astra habe Netzwerke von Grund auf erstellt, indem es deren Gewichte festlegte – ohne Trainingsdaten oder einen Trainingsprozess.

Bei dem am ausführlichsten diskutierten Experiment ging es um Qwen3.5-0.8B, das sich den Forschern zufolge beim Schlussfolgern häufig wiederholte. Beim MATH-500-Test erreichten 93 % seiner Antworten die Längenbegrenzung der Forscher. Astra durfte Qwen Aufgaben bearbeiten lassen und dessen Antworten untersuchen, es aber nicht erneut trainieren. Nach bis zu 50 Runden identifizierte Astra das Schleifen und behob es, indem es 0,016 % der Modellgewichte veränderte. Qwens Ergebnis bei MATH-500 stieg von 7,9 % auf 48,1 %, während sein Ergebnis bei IFEval, einem Test zur Befolgung von Anweisungen, von 21 % auf 62,3 % zunahm.

Die Forscher berichteten auch über Grenzen. Astra verbesserte die Mathematikergebnisse von Googles Gemma 3 270M nicht wesentlich – einem Modell, das etwa dreimal kleiner als Qwen ist und sich nur selten wiederholt. Sie kamen zu dem Schluss, dass eine Veränderung der Gewichte ein Hindernis beseitigen kann, das eine bereits vorhandene Fähigkeit verdeckt, aber keine Fähigkeit hinzufügen kann, über die das Modell nicht verfügt. Astra konnte allein anhand der Gewichte auch nicht erkennen, ob eine Gemma-Version darauf trainiert worden war, Nutzern zu schmeicheln oder ehrlich zu antworten. Erfolg hatte es erst, nachdem es während der Ausführung einen Teil des Verhaltens der Modelle beobachtet hatte.

Einige Kommentatoren auf Hacker News stellten infrage, ob das Ergebnis mit Qwen neuartig sei. Die Forscher verglichen ihren Ansatz mit einer 2024 beschriebenen Methode, die auf ein bestimmtes Modellverhalten abzielte, indem sie eine damit verbundene Richtung identifizierte und entfernte. Andere wiesen darauf hin, dass die Experimente nicht zeigen, dass Astra sich selbst verbessern kann: Bei diesen Tests veränderte es seine eigenen Gewichte nicht. Die Ergebnisse liefern daher Belege dafür, dass ein Sprachmodell gezielte Änderungen an anderen Netzwerken vornehmen kann, lassen aber offen, wie breit sich der Ansatz anwenden lässt.

Quellen: Numerama.