Laut dem Sicherheitsunternehmen Parameter hätte eine Sicherheitslücke in der Web-App von ChatGPT private Unterhaltungen, hochgeladene Dateien und Kontoinformationen eines Nutzers offenlegen können, nachdem dieser auf einen Link geklickt hatte. Der Angriff konnte in etwa 4,5 Sekunden ablaufen und erforderte weder Downloads noch App-Berechtigungen. Der Nutzer musste jedoch beim Surfen bei ChatGPT angemeldet sein.
Die Links konnten per E-Mail, über soziale Medien oder in privaten Nachrichten verschickt werden und schienen zu öffentlichen ChatGPT-Unterhaltungen zu führen. Beim Öffnen konnte schädlicher Code unter der Domain chatgpt.com ausgeführt werden. Dort konnte er die Berechtigungen der Seite nutzen, um den Chatverlauf und Anhänge auszulesen oder Kontoeinstellungen zu ändern.
Die Forscher führten das Problem auf die Open-Source-Bibliothek MathLive zurück, die ChatGPT für interaktive Mathematikdarstellungen und virtuelle Tastaturen verwendet. Die HTML-Vorschaufunktion der Plattform überprüfte weder den Ursprung eingehender Inhalte noch filterte sie bestimmte Codeblöcke. Die Forscher stellten außerdem fest, dass eine Ausnahme für vertrauenswürdige Partnerdienste, darunter YouTube, dazu genutzt werden konnte, das Skript auszuführen und Auszüge aus Unterhaltungen an einen externen Server zu senden.
OpenAI wurde am 18. Oktober benachrichtigt und reproduzierte den Angriff in einer kontrollierten Umgebung. Das Unternehmen stufte die Priorität des Vorfalls von P2 auf P1 hoch und spielte zwischen dem 22. und 26. Oktober serverseitige Fehlerbehebungen ein. Auch das MathLive-Team veröffentlichte ein Update, das standardmäßig die Herkunft von Nachrichten überprüft und Befehle von externen Bildschirmen blockiert.
Die Forscher erklärten, sie hätten keine Hinweise darauf gefunden, dass die Schwachstelle gegen gewöhnliche Nutzer eingesetzt worden sei; ihre Tests betrafen Konten, die sie selbst kontrollierten. Da OpenAI das Problem auf seinen Servern behoben hat, müssen Nutzer laut dem Bericht weder ihre Passwörter noch ihre Kontoeinstellungen ändern.
Quellen: Canaltech.