Anthropic erklärt, dass es sich möglicherweise einem Punkt nähert, an dem künstliche Intelligenz ihre eigene Entwicklung beschleunigen kann. Die Warnung findet sich in einer aktualisierten S-1/A-Einreichung bei der US-Börsenaufsichtsbehörde Securities and Exchange Commission. Das Unternehmen erklärt, diese Stufe noch nicht erreicht zu haben, seine Schätzungen ließen jedoch darauf schließen, dass dies bald geschehen könnte.
Die als rekursive Selbstverbesserung (RSI) bekannte Technologie bezeichnet KI-Systeme, die die Verfahren zu ihrer eigenen Entwicklung verbessern und dadurch möglicherweise den Fortschritt ihrer Fähigkeiten beschleunigen. Diese Aussicht wird sehr unterschiedlich bewertet: Einige Kritiker warnen, immer leistungsfähigere Systeme könnten für Menschen schwer kontrollierbar werden, während Befürworter darin das Potenzial sehen, Produktivität und wissenschaftliche Entdeckungen voranzutreiben.
Anthropic erklärt, KI bereits in Forschung und Entwicklung einzusetzen, warnt jedoch, dass eine solche Abhängigkeit erhebliche Sicherheitsrisiken schaffen könnte, wenn sie den Fortschritt stark beschleunigt. In der Einreichung erklärt das Unternehmen außerdem, dass es bereits KI-Systeme zur Entwicklung neuer Modelle eingesetzt habe, ohne zunächst das Ausmaß der Fähigkeitszuwächse zu erkennen.
Das Unternehmen warnt, dass sich Modelle schneller weiterentwickeln könnten, als es Sicherheitsvorkehrungen, Maßnahmen zur Ausrichtung und andere Schutzmaßnahmen entwickeln, überprüfen und umsetzen kann. Interne Schätzungen und Prognosen zu künftigen Modellen lassen darauf schließen, dass Anthropic bald das erreichen könnte, was seine Responsible Scaling Policy als „dramatisch beschleunigten, auf KI zurückzuführenden Fortschritt“ bezeichnet. Das Unternehmen erklärt, keines seiner aktuellen Modelle sei als eines eingestuft worden, das diese Schwelle überschritten habe, und die Bewertung dauere an.
Anthropic erwartet nicht, dass Claude ohne erhebliche menschliche Aufsicht oder ein umfassendes menschliches Verständnis völlig autonom aufeinanderfolgende Generationen fortschrittlicher Modelle entwirft und entwickelt. Das Unternehmen prüft zudem Aktualisierungen seiner Responsible Scaling Policy, um sicherzustellen, dass Menschen die Entwicklung seiner fortschrittlichsten Modelle kontrollieren.
Laut der Einreichung haben sich Claudes Fähigkeiten in diesem Jahr weiterentwickelt, insbesondere in den Bereichen Programmierung, Mathematik und Cybersicherheit. Anthropic weist darauf hin, dass das Dokument im Rahmen seiner Offenlegungen gegenüber der SEC eingereicht wurde; solche Einreichungen können auch die Perspektive eines Unternehmens für den Markt darstellen.
Quellen: Olhar Digital.