A OpenAI anunciou novas restrições sobre como o ChatGPT responde a perguntas sobre armas de fogo e violência. As mudanças se aplicam a todos os usuários, mas incluem proteções mais amplas para adolescentes e medidas adicionais para identificar conversas que possam indicar uma ameaça real de violência.
A empresa apresentou as medidas na sexta-feira, 30 de outubro, como parte de uma revisão de seus procedimentos de segurança. A OpenAI afirmou que planeja melhorar sua análise do contexto das conversas e ampliar a comunicação com as autoridades em situações consideradas ameaçadoras.
A empresa também anunciou um Relatório de Segurança da Comunidade. A primeira edição é esperada para o início de 2027 e incluirá dados do segundo semestre de 2026, abrangendo a identificação de ameaças, as respostas a comportamentos preocupantes e a eficácia das medidas de prevenção.
A OpenAI afirmou ter feito mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026. Esses encaminhamentos envolveram casos avaliados como ameaças potencialmente graves. A empresa acrescentou que especialistas em saúde mental e comportamento podem ajudar a avaliar situações complexas, juntamente com a consideração de familiares e órgãos públicos.
As restrições também afetarão usuários adultos. O ChatGPT fornecerá respostas menos detalhadas sobre ataques em massa ocorridos no passado e sobre as pessoas responsáveis por eles. O objetivo é evitar combinar informações disponíveis publicamente de maneiras que possam facilitar a reprodução de atos violentos ou aumentar a notoriedade de seus autores.
Espera-se que o sistema limite reconstruções detalhadas envolvendo armas e equipamentos, como foram obtidos e comparações sobre a escala dos danos. A OpenAI afirmou que essas informações poderiam transformar atacantes em figuras proeminentes e fornecer referências que incentivem a imitação.
Os usuários ainda poderão perguntar sobre o que aconteceu, os efeitos sobre vítimas e comunidades e sinais de alerta que possam ajudar a identificar situações perigosas. As restrições se concentrarão principalmente em detalhes operacionais que poderiam auxiliar no planejamento ou na realização de um novo ataque.
O ChatGPT também dará mais peso ao contexto das interações recentes. Uma pergunta que parece inofensiva por si só pode adquirir um significado diferente quando precedida por mensagens que sugerem uma intenção violenta. Se o sistema detectar sinais de que alguém está fixado em violência ou em ferir gravemente outra pessoa, poderá encerrar automaticamente a conversa. Encerramentos repetidos pelo mesmo motivo poderão levar à suspensão temporária da conta.
Usuários menores de 18 anos estarão sujeitos a restrições adicionais sobre informações relacionadas a armas. Mesmo quando uma pergunta parece inofensiva e não contém uma indicação clara de intenção violenta, o ChatGPT limitará o acesso a determinados detalhes práticos que poderiam ser mal utilizados.
As regras existentes já proibiam orientações para planejar ou realizar atos violentos e restringiam a assistência para encontrar ou obter armas para adolescentes. As proteções atualizadas também limitarão informações práticas sobre armas e sistemas de segurança quando elas puderem facilitar a violência, mesmo sem uma declaração explícita de intenção.
Os adolescentes continuarão podendo usar o ChatGPT para obter informações sobre prevenção da violência, apoio e formas de entrar em contato com um adulto de confiança. A OpenAI afirmou que a distinção está entre conteúdos que ajudam os usuários a entender ou evitar situações perigosas e instruções práticas que poderiam facilitar ações violentas.
Para aplicar essas proteções, a OpenAI utiliza um sistema de previsão de idade que considera vários sinais, incluindo padrões de uso. A empresa afirmou ter aprimorado a ferramenta para avaliar continuamente novos sinais e direcionar usuários que possam ter menos de 18 anos para uma experiência com salvaguardas adicionais.
Adultos classificados incorretamente como adolescentes poderão confirmar que têm mais de 18 anos por meio da Persona, parceira da OpenAI para verificação de idade. Depois que a verificação for concluída, as proteções adicionais para menores poderão ser removidas.
A empresa também está ampliando os controles parentais, que permitem vincular a conta de um responsável à conta de um adolescente e gerenciar determinadas configurações de segurança. A OpenAI já fornece alertas em contas vinculadas quando avaliadores treinados identificam preocupações graves envolvendo autolesão ou comportamentos associados a transtornos alimentares.
Em julho de 2026, a empresa ampliou esses alertas para incluir casos em que a conta de um adolescente foi desativada por violar políticas relacionadas à violência. A OpenAI agora planeja notificar os responsáveis quando uma conta for suspensa temporariamente após conversas repetidas sobre violência.
Espera-se que as novas proteções comecem a ser implementadas nas próximas semanas. A OpenAI afirmou que continuará ajustando seus sistemas para identificar sinais de alerta e determinar quando limitar respostas ou encerrar conversas, destacando que as ferramentas digitais devem atuar em conjunto com famílias, profissionais e autoridades.
Fontes: Olhar Digital.