OpenAI ha anunciado nuevas restricciones sobre la forma en que ChatGPT responde a preguntas sobre armas de fuego y violencia. Los cambios se aplican a todos los usuarios, pero incluyen protecciones más amplias para los adolescentes y medidas adicionales para identificar conversaciones que podrían indicar una amenaza real de violencia.
La empresa presentó las medidas el viernes 30 de octubre, como parte de una revisión de sus procedimientos de seguridad. OpenAI afirmó que planea mejorar su análisis del contexto conversacional y ampliar la comunicación con las autoridades en situaciones consideradas amenazantes.
La empresa también anunció un Informe de Seguridad Comunitaria. Se espera que su primera edición se publique a principios de 2027 e incluirá datos del segundo semestre de 2026, sobre la identificación de amenazas, las respuestas a comportamientos preocupantes y la eficacia de las medidas de prevención.
OpenAI afirmó que realizó más de 200 comunicaciones a las fuerzas del orden durante el tercer trimestre de 2026. Estas derivaciones involucraron casos evaluados como amenazas potencialmente graves. La empresa añadió que especialistas en salud mental y conducta pueden ayudar a evaluar situaciones complejas, junto con la consideración de familiares y organismos públicos.
Las restricciones también afectarán a los usuarios adultos. ChatGPT ofrecerá respuestas menos detalladas sobre ataques masivos ocurridos en el pasado y las personas responsables de ellos. El objetivo es evitar combinar información disponible públicamente de maneras que pudieran facilitar la reproducción de actos violentos o aumentar la notoriedad de sus autores.
Se espera que el sistema limite las reconstrucciones detalladas que incluyan armas y equipos, la forma en que fueron obtenidos y comparaciones sobre la magnitud de los daños. OpenAI afirmó que esa información podría convertir a los atacantes en figuras prominentes y proporcionar referencias que fomenten la imitación.
Los usuarios aún podrán preguntar qué ocurrió, cuáles fueron los efectos sobre las víctimas y las comunidades, y cuáles son las señales de advertencia que pueden ayudar a identificar situaciones peligrosas. Las restricciones se centrarán principalmente en detalles operativos que podrían ayudar a planificar o llevar a cabo un nuevo ataque.
ChatGPT también dará mayor importancia al contexto de las interacciones recientes. Una pregunta que parezca inofensiva por sí sola puede adquirir un significado diferente cuando está precedida por mensajes que sugieren una intención violenta. Si el sistema detecta señales de que alguien está obsesionado con la violencia o con herir gravemente a otra persona, podría finalizar automáticamente la conversación. Las finalizaciones repetidas por el mismo motivo podrían provocar la suspensión temporal de la cuenta.
Los usuarios menores de 18 años afrontarán restricciones adicionales sobre la información relacionada con armas. Incluso cuando una pregunta parezca inofensiva y no contenga una indicación clara de intención violenta, ChatGPT limitará el acceso a ciertos detalles prácticos que podrían utilizarse indebidamente.
Las normas existentes ya prohibían ofrecer orientación para planificar o llevar a cabo actos violentos y restringían la ayuda para encontrar u obtener armas dirigida a adolescentes. Las protecciones actualizadas también limitarán la información práctica sobre armas y sistemas de seguridad cuando pudiera facilitar la violencia, incluso sin una declaración explícita de intención.
Los adolescentes seguirán pudiendo utilizar ChatGPT para obtener información sobre prevención de la violencia, apoyo y formas de contactar a un adulto de confianza. OpenAI afirmó que la diferencia está entre el contenido que ayuda a los usuarios a comprender o evitar situaciones peligrosas y las instrucciones prácticas que podrían facilitar acciones violentas.
Para aplicar estas protecciones, OpenAI utiliza un sistema de predicción de edad que considera varias señales, incluidos los patrones de uso. La empresa afirmó que ha mejorado la herramienta para evaluar continuamente nuevas señales y dirigir a los usuarios que podrían ser menores de 18 años a una experiencia con salvaguardas adicionales.
Los adultos clasificados incorrectamente como adolescentes podrán confirmar que tienen más de 18 años a través de Persona, el socio de OpenAI para la verificación de edad. Una vez completada la verificación, podrán eliminarse las protecciones adicionales para menores.
La empresa también está ampliando los controles parentales, que permiten vincular la cuenta de un tutor con la cuenta de un adolescente y gestionar ciertos ajustes de seguridad. OpenAI ya ofrece alertas en las cuentas vinculadas cuando revisores capacitados identifican preocupaciones graves relacionadas con autolesiones o comportamientos asociados con trastornos alimentarios.
En julio de 2026, la empresa amplió esas alertas para incluir casos en los que la cuenta de un adolescente fuera desactivada por infringir las políticas relacionadas con la violencia. OpenAI ahora planea notificar a los tutores cuando una cuenta sea suspendida temporalmente después de conversaciones repetidas sobre violencia.
Se espera que las nuevas protecciones comiencen a implementarse en las próximas semanas. OpenAI afirmó que seguirá ajustando sus sistemas para identificar señales de advertencia y determinar cuándo limitar las respuestas o finalizar conversaciones, al tiempo que subrayó que las herramientas digitales deben trabajar junto con las familias, los profesionales y las autoridades.
Fuentes: Olhar Digital.