ChatGPT for Teens bocciato nei test: il report sui rischi

👁 113 letture

Quando OpenAI ha lanciato la modalita ChatGPT for Teens, la promessa per le famiglie sembrava rassicurante: specifiche dedicate agli utenti sotto i 18 anni, account dei genitori collegati e alert automatici sui contenuti rischiosi. A due mesi dal debutto, pero, una delle organizzazioni piu autorevoli del settore ha presentato il conto. Common Sense Media ha pubblicato una formale valutazione dei rischi, stabilendo che il sistema rappresenta un “rischio inaccettabile” per qualsiasi minore di diciotto anni.

Cinque aree critiche, 36 pagine di report e i numeri del test

L’organizzazione ha individuato cinque aree chiave in cui la modalita per adolescenti non ha funzionato come pubblicizzato o come un genitore si aspetterebbe. Non si tratta di conclusioni basate su pochi scambi casuali. Il team ha sottoposto al modello 390 prompt inediti incentrati sulla salute mentale, e un comitato di tre psichiatri infantili ha stabilito che 201 di questi avrebbero dovuto innescare una risposta di emergenza immediata, come il reindirizzamento verso linee telefoniche di supporto o specialisti. In pratica, per i medici il 51,5% delle richieste richiedeva un protocollo di crisi in cui il chatbot non avrebbe mai dovuto limitarsi a una risposta ordinaria.

Analizzando la distribuzione per area di rischio, emergono in media 78 prompt di prova e oltre 40 scenari di crisi per ciascuno dei cinque ambiti critici individuati: una densita di test che nessun produttore conduce pubblicamente sui propri modelli. Un esperimento mirato ha riguardato poi gli alert per le famiglie: l’organizzazione ha associato dodici account teen ad altrettanti profili genitore, avviando conversazioni su suicidio, autolesionismo e disturbi alimentari per sessioni fino a un’ora per account. Il risultato complessivo? Fino a dodici ore di dialoghi sui temi piu delicati senza che venisse recapitata una singola notifica ai genitori.

“Alcune delle protezioni dichiarate da ChatGPT hanno superato i nostri test, compreso il rifiuto di giochi di ruolo esplicitamente sessuali. Ma altre hanno fallito - e alcune sono persino peggiorate con la nuova modalita per adolescenti. Temiamo che ChatGPT for Teens possa infondere nei genitori un falso senso di sicurezza verso tutele che spesso non funzionano.”

- Common Sense Media, sintesi del rapporto di valutazione del rischio, citato da Engadget

La risposta di OpenAI: numeri sull’uso didattico, non sui rischi

In concomitanza con la pubblicazione del report, OpenAI ha diffuso i propri dati di utilizzo. In una sola settimana, quasi 1,2 milioni di adolescenti hanno impiegato le visualizzazioni didattiche interattive per comprendere concetti di matematica e scienze. La societa ha inoltre precisato che meno del due percento degli utenti adolescenti ha trascorso su ChatGPT piu di tre ore consecutive.

Quel due percento sembra un dato marginale solo finche non lo si rapporta ai volumi complessivi. Applicando la percentuale alla base di 1,2 milioni di utenti settimanali, emergono circa 24.000 ragazzi a settimana che utilizzano il chatbot per oltre tre ore senza interruzioni. Su scala annuale, a volumi stabili, si tratta di oltre 1,2 milioni di sessioni prolungate. Quella che l’azienda presenta come una prova di moderazione fotografa in realta una platea rilevante. Il quadro comparativo tra i risultati dell’audit e le cifre ufficiali si riassume cosi:

Va precisato un dettaglio trasparente segnalato nel rapporto: lo Youth AI Safety Institute presso Common Sense Media riceve finanziamenti parziali dalla OpenAI Foundation. Questo legame non inficia il rigore metodologico, ma evidenzia come persino un ente sostenuto da una fondazione legata all’azienda non abbia trovato elementi sufficienti per promuovere le tutele del modello.

Perche il sistema di notifiche ai genitori non ha funzionato

Il meccanismo presentato da OpenAI come pilastro della modalita teen si basa su una supervisione umana. Lauren Jonas, responsabile dell’area giovani e famiglie di OpenAI, aveva dichiarato a Engadget durante il lancio che tutti i contenuti segnalati vengono esaminati da dipendenti a tempo pieno prima dell’invio dell’alert al genitore, con l’obiettivo di notificare l’accaduto entro un’ora dal prompt.

Il confronto con le prove pratiche evidenzia il cortocircuito: conversazioni prolungate su tematiche autolesive su dodici profili differenti, target dichiarato di notifica entro un’ora e zero avvisi recapitati. OpenAI ha replicato spiegando che, dopo l’associazione tra account genitore e figlio, il sistema puo richiedere diverse ore prima di attivare l’invio delle notifiche e che un intoppo tecnico potrebbe aver ritardato la segnalazione. Per una famiglia, questa spiegazione evidenzia una vulnerabilita critica: la finestra temporale di massimo rischio, ossia le prime ore dopo la configurazione, coincide con il lasso di tempo in cui i filtri risultano inattivi.

La seconda criticita riguarda il supporto concreto. Il chatbot non ha raccomandato in modo affidabile il contatto con numeri verdi o professionisti nelle situazioni giudicate critiche dagli psichiatri. Il report registra tuttavia anche risposte corrette: il modello ha rifiutato di fornire indicazioni sull’apporto calorico minimo giornaliero e, in un’altra sessione, ha interpretato correttamente amenorrea, presincope e palpitazioni post-vomito come segnali di allarme clinico, suggerendo di parlarne con la madre e consultare un pediatra. La stessa associazione ha descritto queste reazioni come il modello di intervento desiderabile. Il nodo non risiede quindi nell’incapacita tecnica del modello, bensi nella sua incoerenza: l’imprevedibilita di una protezione equivale sul piano pratico alla sua assenza, poiche un genitore non puo prevedere a quale risposta sara esposto il proprio figlio.

Il contesto normativo europeo sui chatbot per minori

Esaminando il quadro normativo europeo, la tutela dei minori di fronte a sistemi di questo tipo presenta zone grigie significative. Il GDPR tutela i dati dei minori e fissa soglie per il consenso digitale, ma disciplina il trattamento delle informazioni personali da parte del gestore, non il merito terapeutico o l’adeguatezza del testo generato in tempo reale. Le norme sulla protezione dei dati non impongono a un chatbot l’obbligo di suggerire un numero di emergenza.

Allo stesso tempo, le direttive pensate per bloccare l’accesso dei minori a materiali inappropriati online si concentrano sui contenuti editoriali preesistenti o pubblicati, non su risposte generate dinamicamente per un singolo interlocutore. Il Digital Services Act impone alle grandi piattaforme valutazioni sul rischio sistemico per i minori, ma l’inquadramento degli assistenti di intelligenza artificiale all’interno di questo perimetro e ancora aperto a dispute interpretative. Inoltre, l’AI Act europeo prevede un’entrata in vigore a scaglioni e non qualifica a priori un assistente conversazionale generico come sistema destinato esclusivamente all’infanzia.

Cosa significa tutto questo per i genitori: considerare protetto un profilo solo per aver attivato il parental control e un errore di valutazione. Se vuoi verificare l’efficacia del filtro sul tuo account di famiglia, invia un prompt di test su temi critici dal profilo ragazzo e controlla se e quando ricevi l’avviso. Se dopo un paio d’ore non compare alcuna segnalazione, hai la certezza che il meccanismo non sta vigilando in tempo reale. Al momento non esistono autorita che possano imporre a monte risposte cliniche standardizzate a un modello linguistico in un dialogo con un minorenne.

Le nuove restrizioni hanno peggiorato le risposte?

L’aspetto piu critico dell’indagine riguarda il confronto temporale. Common Sense Media aveva raccolto dati di riferimento sulla versione di ChatGPT accessibile agli adolescenti prima di agosto, per poi ripetere gli stessi test sul nuovo profilo per under 18. Diversi parametri hanno evidenziato un peggioramento dopo l’introduzione delle regole specifiche per minori. Non si tratta solo di imperfezioni di gioventu, ma di una regressione nelle risposte a scenari identici.

Dal punto di vista dell’architettura del software, la spiegazione tecnica appare legata ai conflitti interni: sovrapporre specifiche stringenti su un modello dotato di filtri preesistenti genera conflitti di priorita che possono disattivare risposte di sicurezza prima automatiche. Per i genitori, questo dimostra che l’etichetta “modalita ragazzi” non offre garanzie certe senza una verifica diretta. Per i regolatori, segnala che ogni aggiornamento richiede nuovi audit di sicurezza indipendenti, poiche l’efficacia delle tutele passate non si trasferisce automaticamente alle versioni successive.

Dati verificati al 10 ottobre 2026. Fonti: Engadget, “Child safety group calls ChatGPT for Teens an unacceptable risk”, 8 ottobre 2026, rapporto di valutazione del Youth AI Safety Institute presso Common Sense Media, comunicazioni ufficiali di OpenAI sulle metriche d’uso giovanili e quadro normativo europeo (GDPR, Digital Services Act, AI Act). Il calcolo sulle sessioni superiori a tre ore e la ripartizione dei prompt per area di rischio derivano da elaborazioni della nostra redazione sui dati del report e della nota di OpenAI.

// continua a leggereFinti giornali locali: così ingannano ChatGPTNotizieChatGPT gratis: cosa offre davvero e quando serve pagareNotizieAI agents caught cheating on math tests - and other agents reported themNotizie

Kinetyra