Un fallo de seguridad en la aplicación web de ChatGPT podía exponer las conversaciones privadas, los archivos subidos y la información de la cuenta de un usuario después de que este hiciera clic en un enlace, según la empresa de seguridad Parameter. El ataque podía ejecutarse en unos 4,5 segundos y no requería descargas ni permisos de la aplicación, pero el usuario tenía que haber iniciado sesión en ChatGPT mientras navegaba.

Los enlaces podían enviarse por correo electrónico, redes sociales o mensajes privados, y parecían dirigir a conversaciones públicas de ChatGPT. Abrir uno podía activar código malicioso bajo el dominio chatgpt.com, donde podía utilizar los permisos de la página para leer el historial de chats y los archivos adjuntos, o cambiar la configuración de la cuenta.

Los investigadores atribuyeron el problema a la biblioteca de código abierto MathLive, que ChatGPT utiliza para mostrar expresiones matemáticas interactivas y teclados virtuales. La función de vista previa de HTML de la plataforma no verificaba el origen del contenido recibido ni filtraba ciertos bloques de código. Los investigadores también descubrieron que una excepción para servicios asociados de confianza, incluido YouTube, podía utilizarse para ejecutar el script y enviar extractos de las conversaciones a un servidor externo.

Se notificó a OpenAI el 18 de octubre y la empresa reprodujo el ataque en un entorno controlado. Elevó la prioridad del incidente de P2 a P1 y desplegó correcciones del lado del servidor entre el 22 y el 26 de octubre. El equipo de MathLive también publicó una actualización que, de forma predeterminada, verifica el origen de los mensajes y bloquea los comandos procedentes de pantallas externas.

Los investigadores dijeron que no encontraron pruebas de que el fallo se hubiera utilizado contra usuarios comunes; sus pruebas se realizaron con cuentas que controlaban. Según el informe, dado que OpenAI corrigió el problema en sus servidores, los usuarios no necesitan cambiar sus contraseñas ni la configuración de sus cuentas.

Fuentes: Canaltech.