Selon la société de sécurité Parameter, une faille dans l’application web de ChatGPT pouvait exposer les conversations privées, les fichiers téléversés et les informations du compte d’un utilisateur après qu’il avait cliqué sur un lien. L’attaque pouvait s’exécuter en environ 4,5 secondes et ne nécessitait ni téléchargement ni autorisation d’application, mais l’utilisateur devait être connecté à ChatGPT pendant sa navigation.
Les liens pouvaient être envoyés par courriel, sur les réseaux sociaux ou dans des messages privés, et semblaient mener à des conversations publiques sur ChatGPT. L’ouverture de l’un d’eux pouvait déclencher un code malveillant sous le domaine chatgpt.com, où celui-ci pouvait exploiter les autorisations de la page pour lire l’historique des conversations et les pièces jointes, ou modifier les paramètres du compte.
Les chercheurs ont attribué le problème à la bibliothèque open source MathLive, utilisée par ChatGPT pour les affichages mathématiques interactifs et les claviers virtuels. La fonction d’aperçu HTML de la plateforme ne vérifiait pas l’origine des contenus entrants et ne filtrait pas certains blocs de code. Les chercheurs ont également découvert qu’une exception accordée à des services partenaires de confiance, notamment YouTube, pouvait servir à exécuter le script et à envoyer des extraits de conversations à un serveur externe.
OpenAI a été informée le 18 octobre et a reproduit l’attaque dans un environnement contrôlé. L’entreprise a fait passer la priorité de l’incident de P2 à P1 et a déployé des correctifs côté serveur entre le 22 et le 26 octobre. L’équipe MathLive a également publié une mise à jour qui vérifie par défaut l’origine des messages et bloque les commandes provenant d’écrans externes.
Les chercheurs ont indiqué n’avoir trouvé aucun indice d’une exploitation de la faille visant des utilisateurs ordinaires ; leurs tests portaient sur des comptes qu’ils contrôlaient. OpenAI ayant corrigé le problème sur ses serveurs, les utilisateurs n’ont pas besoin de modifier leur mot de passe ni les paramètres de leur compte, selon le rapport.
Sources: Canaltech.