Anthropic-CEO Dario Amodei hat davor gewarnt, dass sich die KI-Entwicklung beschleunigt, da Modelle immer besser darin werden, bei der Entwicklung ihrer Nachfolger zu helfen. In einem Essay mit dem Titel „We Must Pace the Frontier“ beschrieb er diesen Prozess als rekursive Selbstverbesserung und plädierte dafür, die Entwicklung von Frontier-Systemen zu verlangsamen, um ihre Ausrichtung an menschlichen Interessen zu unterstützen und potenzielle Risiken zu verringern.

Ein kürzlich durchgeführtes Experiment von Forschenden des Massachusetts Institute of Technology bietet ein begrenzteres Beispiel für KI-gestützte Modellentwicklung. Das Team stellte fest, dass OpenAIs GPT-6 Astra die internen Parameter von Qwen3.5-0.8B direkt verändern konnte, einem von Alibaba entwickelten Sprachmodell mit 800 Millionen Parametern. Den Forschenden zufolge verbesserte Astra die mathematische Leistung des Modells, indem es lediglich 0,016 % seiner Parameter veränderte, ohne einen neuen Trainingsprozess durchzuführen.

Zu diesen Parametern gehören Gewichte: numerische Werte, die bestimmen, wie stark Verbindungen innerhalb eines neuronalen Netzes dessen Verhalten beeinflussen. Anstatt Qwen neu zu trainieren, identifizierte Astra ein Problem und passte die entsprechenden Gewichte an, wie aus der Darstellung der Studie hervorgeht.

Das Ergebnis der Forschenden zeigt, dass ein KI-Modell gezielte Änderungen an einem anderen Netzwerk vornehmen kann, belegt jedoch keine rekursive Selbstverbesserung im strengen Sinne. Aus den verfügbaren Informationen geht außerdem nicht hervor, dass ein Modell autonom einen leistungsfähigeren Nachfolger seiner selbst entwickelt hat.

Die direkte Bearbeitung von Modellen könnte Forschenden eine weitere Möglichkeit bieten, KI-Systeme zu verbessern. Sie könnte wissenschaftliche Arbeit beschleunigen, bei der Behebung von Problemen helfen, die andernfalls langwieriges Training erfordern würden, und die Entwicklung effizienterer Modelle unterstützen. Dieselbe Fähigkeit könnte jedoch auch Fehler, schwer erkennbare Schwachstellen oder unerwartetes Verhalten verursachen, wenn Änderungen nicht sorgfältig geprüft werden.

Wenn KI-Systeme zunehmend ihre eigenen Komponenten oder andere Modelle verändern, könnte es schwieriger werden, aufeinanderfolgende Änderungen zu bewerten und zu kontrollieren – insbesondere dann, wenn sich Verbesserungen über mehrere Generationen hinweg aufbauen.

Quellen: Xataka.