Meta ha un sistema interno che decide quando segnalare gli utenti alla polizia

Meta usa sistemi di intelligenza artificiale per cercare segnali di possibili stragi nelle proprie piattaforme; quando un contenuto viene segnalato, entra in gioco una revisione umana che può arrivare fino alla trasmissione di informazioni alle forze dell’ordine. Il meccanismo, raccontato in dettaglio dal New Yorker, opera attraverso una squadra interna poco visibile che da anni studia il comportamento online legato alle sparatorie nelle scuole.

Nel 2025, secondo Emily Vacher, ex agente dell’FBI e oggi tra i responsabili del law-enforcement outreach di Meta, l’azienda ha fornito informazioni alle autorità in circa 800 casi nel mondo. L’AI serve a trovare i segnali in mezzo a una quantità di contenuti che nessuna squadra umana potrebbe leggere manualmente; la decisione di approfondire e, nei casi più concreti, di passare materiale alla polizia resta affidata a persone.

Come funziona il sistema di Meta che può arrivare alla polizia

Il percorso comincia con strumenti automatici che cercano combinazioni considerate significative. Il contenuto segnalato viene poi esaminato da revisori, che possono osservare il comportamento dell’utente sui servizi di Meta: i post pubblicati o condivisi, le interazioni con altri utenti e anche i prompt inviati ai chatbot AI della società. L’indagine prova a distinguere la fascinazione morbosa, la provocazione o il linguaggio codificato da segnali più concreti di preparazione.

Vacher ha descritto la soglia con una formula presa dal lavoro investigativo: «substantial steps, overt acts». Una lista di possibili obiettivi o un manifesto possono trasformare un insieme di segnali in qualcosa di abbastanza concreto da essere comunicato alle autorità. Meta, nelle proprie pagine sulla collaborazione con le forze dell’ordine, afferma da tempo di poter fornire informazioni quando esiste un rischio immediato di danno, morte o lesioni gravi.

La struttura ibrida descritta dal New Yorker coincide anche con ciò che Meta ha dichiarato nel marzo 2026 presentando nuovi sistemi AI per l’enforcement: l’automazione serve a trovare più rapidamente le violazioni gravi, mentre le persone continuano a occuparsi delle decisioni a più alto rischio, incluse proprio le segnalazioni alle forze dell’ordine.

Da un post su Instagram a un arresto in poco più di due ore

Il caso più lineare raccontato dal New Yorker riguarda uno studente della Benjamin N. Cardozo High School di Queens. Nell’autunno 2025 pubblicò su Instagram la fotografia di un compito scolastico con una frase che annunciava una sparatoria. Meta segnalò il post e trasmise le informazioni all’FBI; l’FBI avvertì il dipartimento di polizia di New York, che collegò l’indirizzo IP a un nome e a un numero di telefono. Nello zaino dello studente venne trovata una pistola carica. Tra il post e il fermo passarono poco più di due ore.

I casi difficili sono quasi tutti gli altri. La comunità online che glorifica gli autori di stragi, indicata come True Crime Community o T.C.C., utilizza riferimenti interni, immagini d’infanzia degli attentatori, soprannomi, numeri e simboli che cambiano appena diventano riconoscibili ai sistemi di moderazione. Il New Yorker cita una ricerca dell’FBI secondo cui quasi nove autori di sparatorie su dieci, tra quelli con meno di diciotto anni studiati, avevano lasciato trapelare in anticipo qualche indicazione delle proprie intenzioni. La difficoltà sta nel separare quella «leakage» da tutto ciò che le assomiglia senza trasformarsi in violenza reale.

Quando la piattaforma diventa il primo filtro tra un utente e lo Stato

La maggioranza dei ragazzi che frequentano comunità ossessionate dalle stragi non commetterà un attacco. Un falso negativo può lasciare passare una minaccia, un falso positivo può portare un giovane che esprime pensieri disturbanti dentro un’indagine di polizia. Prima dell’intervento dello Stato esiste quindi una valutazione privata, costruita su dati, modelli automatici e criteri interni della piattaforma.

Il paradosso è già incorporato nella materia che il sistema deve analizzare. Gli stessi social che provano a riconoscere le traiettorie verso la violenza sono anche l’ambiente in cui immagini, miti e linguaggi delle comunità estremiste possono diffondersi e ricombinarsi. Nel suo reportage, Katherine Keneally dell’Institute for Strategic Dialogue osserva che le piattaforme contribuiscono alla circolazione di quei contenuti mentre, in molti casi, riducono le risorse dedicate ai team di trust and safety. In Europa la discussione sulla responsabilità delle piattaforme verso i minori ha già prodotto tentativi di intervenire persino sul design, come nel caso delle misure contro scroll infinito e meccanismi di engagement.

Meta ha costruito questa capacità gradualmente. Dopo Sandy Hook, il team di Vacher offriva supporto alle autorità per capire se esistessero complici o pericoli ancora attivi; nel 2018 l’azienda riunì specialisti di sparatorie scolastiche, ex giornalisti e investigatori per studiare le tracce digitali lasciate dagli attentatori e trasformarle in pattern riconoscibili dai sistemi automatici.

Oggi quel lavoro può partire da un algoritmo, attraversare la cronologia osservabile di un account e arrivare a una centrale di polizia. Meta dice che le decisioni più delicate restano umane. Nel 2025, quella catena si è chiusa con una segnalazione alle forze dell’ordine circa ottocento volte.