Uma falha de segurança no aplicativo web do ChatGPT poderia expor as conversas privadas, os arquivos enviados e as informações da conta de um usuário depois que ele clicasse em um link, segundo a empresa de segurança Parameter. O ataque poderia ser executado em cerca de 4,5 segundos e não exigia downloads nem permissões de aplicativos, mas o usuário precisava estar conectado ao ChatGPT enquanto navegava.
Os links poderiam ser enviados por e-mail, redes sociais ou mensagens privadas e pareciam levar a conversas públicas do ChatGPT. Abrir um deles poderia acionar código malicioso sob o domínio chatgpt.com, onde ele poderia usar as permissões da página para ler o histórico de conversas e os anexos ou alterar as configurações da conta.
Os pesquisadores atribuíram o problema à biblioteca de código aberto MathLive, que o ChatGPT usa para exibições interativas de matemática e teclados virtuais. O recurso de pré-visualização de HTML da plataforma não verificava a origem do conteúdo recebido nem filtrava determinados blocos de código. Os pesquisadores também descobriram que uma exceção para serviços parceiros confiáveis, incluindo o YouTube, poderia ser usada para executar o script e enviar trechos das conversas a um servidor externo.
A OpenAI foi notificada em 18 de outubro e reproduziu o ataque em um ambiente controlado. A empresa elevou a prioridade do incidente de P2 para P1 e implantou correções no servidor entre 22 e 26 de outubro. A equipe do MathLive também lançou uma atualização que verifica por padrão a origem das mensagens e bloqueia comandos de telas externas.
Os pesquisadores disseram não ter encontrado evidências de que a falha tenha sido usada contra usuários comuns; os testes envolveram contas sob o controle deles. Como a OpenAI corrigiu o problema em seus servidores, os usuários não precisam alterar suas senhas nem as configurações da conta, segundo o relatório.
Fontes: Canaltech.