ChatGPT non si limiterà a dire no: potrà chiudere la conversazione

OpenAI ha effettuato oltre 200 segnalazioni alle autorità nel terzo trimestre del 2026. E prepara ChatGPT a compiere un passo ulteriore: interrompere automaticamente una conversazione quando riconosce segnali di fissazione sulla violenza o sull’intenzione di ferire gravemente qualcuno. Se il comportamento si ripete in più chat, l’azienda potrà sospendere temporaneamente l’account.

Non è un semplice rifiuto di rispondere a una richiesta pericolosa. È il servizio che, in determinate circostanze, decide di terminare lo scambio. La funzione è ancora in sviluppo: OpenAI prevede di avviare il rilascio delle nuove protezioni nelle prossime settimane, non annuncia un blocco già generalizzato a tutte le conversazioni.

Le misure sono contenute nel comunicato sulla sicurezza pubblicato il 30 ottobre 2026. Il punto più concreto, però, è già al passato: le segnalazioni alle forze dell’ordine non sono una possibilità teorica, ma un’attività che OpenAI dichiara di svolgere quando individua minacce credibili e imminenti.

OpenAI: oltre 200 segnalazioni alle autorità in tre mesi

Il dato riguarda il periodo luglio-settembre 2026. OpenAI parla di più di 200 segnalazioni, non di 200 persone arrestate o di 200 reati accertati. Non specifica quanti utenti distinti siano stati coinvolti né fornisce, nel comunicato, una ripartizione geografica dei casi. Confondere una segnalazione con una condanna significherebbe attribuire al numero più di quanto dica.

L’azienda spiega di utilizzare procedure di valutazione dei rischi, anche con il supporto di esperti di salute mentale e comportamento, per decidere quando una minaccia richiede l’intervento di soggetti in grado di agire nel mondo reale. OpenAI sostiene inoltre che alcune segnalazioni abbiano contribuito a sventare piani violenti. Il comunicato, tuttavia, non permette di misurare autonomamente l’efficacia complessiva del sistema.

Per rendere più verificabili queste attività, OpenAI promette un rapporto pubblico sulla sicurezza delle comunità. La prima edizione, prevista all’inizio del 2027, riguarderà il secondo semestre 2026; seguiranno aggiornamenti semestrali con dati, esempi anonimizzati e informazioni sui metodi impiegati.

Quando ChatGPT potrà interrompere una conversazione

La novità non consiste soltanto nel riconoscere una domanda esplicitamente pericolosa. Una richiesta apparentemente innocua può assumere un significato diverso alla luce degli scambi precedenti. OpenAI spiega di lavorare sull’utilizzo di brevi riepiloghi fattuali dei segnali di rischio emersi in chat recenti, così da rendere più prudenti le risposte successive quando una sequenza suggerisce un possibile intento violento.

All’interno di questo sistema si inserisce l’interruzione automatica: se una conversazione manifesta segnali di fissazione sulla violenza o sull’idea di causare gravi danni a una persona, ChatGPT potrà terminarla. Dopo più interruzioni per lo stesso motivo, OpenAI potrà applicare una pausa temporanea all’account. La società non pubblica ancora soglie operative, tassi di errore o criteri dettagliati per distinguere una minaccia concreta da una discussione legittima su un argomento difficile.

È proprio qui che il problema cambia natura. Rifiutare istruzioni per compiere violenza significa stabilire un limite ai contenuti prodotti dal modello. Interrompere la conversazione e limitare l’accesso richiede anche una valutazione del comportamento dell’utente. La prevenzione può giustificare controlli severi; resta essenziale capire come siano gestiti i casi ambigui e gli eventuali errori.

Più restrizioni sugli attacchi di massa e sulle informazioni per i minori

OpenAI annuncia anche risposte meno dettagliate sulle stragi del passato: non vuole che le ricostruzioni tecniche degli attacchi, le informazioni sull’equipaggiamento impiegato o i confronti sulla portata della violenza diventino materiale utile a emulare gli autori. La possibilità di studiare quei fatti, comprenderne le conseguenze o discutere di prevenzione resta distinta dalla ricostruzione operativa di come siano stati realizzati.

Per gli utenti che il sistema ritiene minorenni, i limiti saranno più rigidi anche su informazioni pratiche relative ad armi e sistemi di sicurezza, perfino quando la singola richiesta non mostra intenzioni violente. La stima dell’età si basa su diversi segnali comportamentali; OpenAI indica inoltre una procedura di verifica per gli adulti classificati erroneamente come minorenni.

Intanto ChatGPT cambia anche gli annunci pubblicitari

Nello stesso 30 ottobre entra in vigore un’altra modifica, questa volta commerciale. Secondo la documentazione di ChatGPT Ads, le funzioni di ottimizzazione creativa vengono abilitate per impostazione predefinita nelle campagne nuove ed esistenti, salvo le esclusioni già configurate. Il sistema può adattare titoli, descrizioni, immagini e link di destinazione degli annunci al contesto della conversazione o agli interessi dell’utente, senza richiedere l’approvazione di ogni variante. Gli inserzionisti possono disattivare la funzione. OpenAI precisa che gli annunci sono separati dalle risposte e non le influenzano: non è lo stesso meccanismo delle misure di sicurezza, ma è un’altra decisione operativa affidata alla piattaforma.

Nel caso delle minacce violente, chiedere a un chatbot di ignorare ogni segnale sarebbe irresponsabile. Il problema è stabilire come distinguere il rischio reale da un falso allarme, chi controlli quella decisione e quali strumenti esistano per contestarla. Le oltre 200 segnalazioni mostrano che il passaggio dalla conversazione all’intervento esterno è già avvenuto. La trasparenza promessa da OpenAI dovrà ora spiegare non soltanto quante volte succede, ma con quali garanzie.