OpenAI ha annunciato nuove restrizioni sul modo in cui ChatGPT risponde alle domande sulle armi da fuoco e sulla violenza. Le modifiche si applicano a tutti gli utenti, ma includono maggiori protezioni per gli adolescenti e ulteriori misure per identificare le conversazioni che potrebbero segnalare una minaccia reale di violenza.
L’azienda ha presentato le misure venerdì 30 ottobre, nell’ambito di una revisione delle proprie procedure di sicurezza. OpenAI ha dichiarato di voler migliorare l’analisi del contesto delle conversazioni e ampliare le comunicazioni con le autorità nelle situazioni considerate minacciose.
L’azienda ha inoltre annunciato un Rapporto sulla sicurezza della comunità. La sua prima edizione è prevista per l’inizio del 2027 e includerà dati relativi alla seconda metà del 2026, riguardanti l’identificazione delle minacce, le risposte ai comportamenti preoccupanti e l’efficacia delle misure di prevenzione.
OpenAI ha dichiarato di aver effettuato più di 200 comunicazioni alle forze dell’ordine nel terzo trimestre del 2026. Queste segnalazioni riguardavano casi valutati come potenziali minacce gravi. L’azienda ha aggiunto che gli specialisti della salute mentale e del comportamento possono contribuire a valutare situazioni complesse, insieme alla considerazione dei familiari e delle agenzie pubbliche.
Le restrizioni riguarderanno anche gli utenti adulti. ChatGPT fornirà risposte meno dettagliate sugli attacchi di massa avvenuti in passato e sulle persone responsabili. L’obiettivo è evitare di combinare informazioni disponibili pubblicamente in modi che potrebbero facilitare la riproduzione di atti violenti o accrescere la notorietà dei loro autori.
Il sistema dovrebbe limitare le ricostruzioni dettagliate riguardanti armi e attrezzature, il modo in cui sono state ottenute e i confronti sulla portata dei danni. OpenAI ha affermato che tali informazioni potrebbero trasformare gli aggressori in figure di rilievo e fornire riferimenti che incoraggino l’imitazione.
Gli utenti potranno continuare a chiedere informazioni su ciò che è accaduto, sugli effetti sulle vittime e sulle comunità e sui segnali d’allarme che possono aiutare a identificare situazioni pericolose. Le restrizioni si concentreranno principalmente sui dettagli operativi che potrebbero aiutare a pianificare o compiere un nuovo attacco.
ChatGPT attribuirà inoltre maggiore importanza al contesto delle interazioni recenti. Una domanda che appare innocua di per sé può assumere un significato diverso quando è preceduta da messaggi che suggeriscono intenzioni violente. Se il sistema rileva segnali che indicano che una persona è ossessionata dalla violenza o dal ferire gravemente un’altra persona, può terminare automaticamente la conversazione. Terminazioni ripetute per lo stesso motivo potrebbero portare alla sospensione temporanea dell’account.
Gli utenti di età inferiore ai 18 anni dovranno affrontare ulteriori restrizioni sulle informazioni relative alle armi. Anche quando una domanda appare innocua e non contiene indicazioni chiare di intenzioni violente, ChatGPT limiterà l’accesso a determinati dettagli pratici che potrebbero essere utilizzati impropriamente.
Le regole esistenti vietavano già le indicazioni per pianificare o compiere atti violenti e limitavano l’assistenza nella ricerca o nell’ottenimento di armi per gli adolescenti. Le protezioni aggiornate limiteranno inoltre le informazioni pratiche sulle armi e sui sistemi di sicurezza quando potrebbero facilitare la violenza, anche in assenza di un’esplicita dichiarazione d’intenti.
Gli adolescenti potranno continuare a utilizzare ChatGPT per ottenere informazioni sulla prevenzione della violenza, supporto e indicazioni su come contattare un adulto di fiducia. OpenAI ha affermato che la distinzione riguarda il contenuto che aiuta gli utenti a comprendere o evitare situazioni pericolose e le istruzioni pratiche che potrebbero facilitare azioni violente.
Per applicare queste protezioni, OpenAI utilizza un sistema di previsione dell’età che prende in considerazione diversi segnali, compresi i modelli di utilizzo. L’azienda ha dichiarato di aver migliorato lo strumento per valutare continuamente nuovi segnali e indirizzare gli utenti che potrebbero avere meno di 18 anni verso un’esperienza con ulteriori misure di sicurezza.
Gli adulti classificati erroneamente come adolescenti potranno confermare di avere più di 18 anni tramite Persona, il partner di OpenAI per la verifica dell’età. Una volta completata la verifica, le protezioni aggiuntive per i minorenni potranno essere rimosse.
L’azienda sta inoltre ampliando i controlli parentali, che consentono di collegare l’account di un tutore a quello di un adolescente e di gestire determinate impostazioni di sicurezza. OpenAI fornisce già avvisi sugli account collegati quando i revisori formati individuano gravi preoccupazioni relative all’autolesionismo o a comportamenti associati ai disturbi alimentari.
Nel luglio 2026, l’azienda ha ampliato tali avvisi includendo i casi in cui l’account di un adolescente veniva disattivato per aver violato le politiche relative alla violenza. OpenAI prevede ora di informare i tutori quando un account viene sospeso temporaneamente dopo conversazioni ripetute sulla violenza.
Le nuove protezioni dovrebbero iniziare a essere introdotte nelle prossime settimane. OpenAI ha dichiarato che continuerà ad adeguare i propri sistemi per identificare i segnali d’allarme e determinare quando limitare le risposte o terminare le conversazioni, sottolineando al contempo che gli strumenti digitali dovrebbero operare insieme alle famiglie, ai professionisti e alle autorità.
Fonti: Olhar Digital.