Falsi positivi nei rilevatori AI: casi e ricorsi

👁 111 letture

Un rilevatore AI ha contrassegnato il tuo testo come generato da una macchina. È sufficiente per assegnare uno zero, rifiutare un libro o accusare qualcuno di plagio? No. Il punteggio di un classificatore è solo un indizio da verificare, non una prova autosufficiente di paternità. Lo dimostrano le storie di studenti universitari, le decisioni degli atenei e il celebre caso della Costituzione americana.

In questo articolo separo i falsi positivi documentati dalle controversie procedurali in cui è stata contestata la condotta degli istituti. È una distinzione cruciale: una sanzione revocata non equivale automaticamente alla prova scientifica dell’errore del software. Stato delle fonti: 14 ottobre 2026. L’analisi si basa su documenti e pubblicazioni ufficiali.

Separatamente, ho trattato la vicenda del romanzo premiato e delle accuse basate su rilevatori AI.

Cosa significa davvero falso positivo per un rilevatore AI?

Un falso allarme, o falso positivo, si verifica quando uno strumento attribuisce un testo scritto da un essere umano a un modello generativo. Situazione diversa è quando il software rileva correttamente l’uso di un ausilio AI consentito, come una revisione stilistica o ortografica. In quel caso la contestazione riguarda l’interpretazione del regolamento, non l’accuratezza del programma.

Questa differenza viene sottolineata nella rassegna di Victor Angelier del 18 settembre 2026. L’autore evidenzia che il classificatore valuta solo le caratteristiche statistiche del testo finale, senza osservare direttamente il processo di scrittura. Il solo punteggio percentuale non può determinare cosa abbia fatto realmente una persona né se abbia violato le regole.

Prima di giudicare un caso eclatante, poniti tre domande: conosciamo con certezza l’origine del testo? Quale strumento è stato impiegato? Cosa è stato accertato in sede formale? Senza queste risposte si rischia di confondere uno screenshot sui social con una contestazione accademica o con una sentenza definitiva, che sono livelli di informazione completamente diversi.

La Costituzione USA e la Bibbia scambiate per testi AI

In un articolo di Ars Technica del 14 luglio 2023 è stato mostrato come brani della Costituzione degli Stati Uniti venissero segnalati da GPTZero e ZeroGPT come generati da intelligenza artificiale. ZeroGPT ha dato un esito analogo anche su un estratto della Genesi. Si trattava di campioni specifici testati con gli strumenti disponibili all’epoca, non di un’analisi esaustiva di tutti i documenti storici.

Questo esempio invita alla cautela nell’interpretare qualsiasi verdetto automatico. Un rilevatore non analizza la data di stesura di un manoscritto. Da ciò non consegue però che ogni versione attuale di questi software reagisca allo stesso modo; non ho effettuato una replica di quel test specifico.

Puoi considerare queste dimostrazioni come un campanello d’allarme: evidenziano la possibilità teorica di errore, ma non indicano il tasso reale di falsi positivi nei compiti della tua classe o nelle bozze della tua casa editrice. Per calcolarlo servirebbe un campione rappresentativo di testi di origine certa e una metodologia descritta nei dettagli.

Texas A&M University-Commerce: ChatGPT usato come rilevatore

Nel maggio 2023, un docente della Texas A&M University-Commerce ha incollato gli elaborati dei propri studenti all’interno di ChatGPT, chiedendo al bot se li avesse scritti lui. Secondo la ricostruzione di NBC News del 18 maggio 2023, ripresa anche da AOL, le risposte del chatbot sono state usate come pretesto per bocciare i lavori. Non si trattava dell’uso di un rilevatore specializzato, bensì di un’interrogazione diretta al modello linguistico.

L’università ha poi chiarito che l’intera classe non era stata bocciata in blocco e che le lauree non erano state revocate in via definitiva, ma che erano stati assegnati voti temporanei di sospensione del giudizio. Secondo la nota dell’ateneo, diversi studenti sono stati scagionati, uno ha ammesso l’uso improprio di ChatGPT durante il corso e altri hanno concordato una prova integrativa.

La conclusione non è che ogni accusa fosse infondata, ma che il metodo utilizzato fosse del tutto inadeguato per prendere provvedimenti collettivi. È fondamentale considerare la presa di posizione formale dell’istituto anziché limitarsi alla versione più scandalistica circolata online.

Per chi insegna, il principio è chiaro: la risposta di un chatbot che afferma di aver generato un testo non è un registro delle attività dello studente. In assenza di altri riscontri, serve un colloquio di chiarimento, non un verdetto immediato.

Vanderbilt University: perché l’ateneo ha disattivato il controllo AI

Il 16 agosto 2023 la Vanderbilt University ha annunciato la disattivazione del modulo di rilevamento AI integrato in Turnitin. Tra le motivazioni, l’ateneo ha citato il rischio di falsi positivi, la scarsa trasparenza dell’algoritmo e le criticità emerse verso gli studenti non madrelingua inglese.

L’ateneo ha applicato la percentuale di falsi allarmi dichiarata all’epoca dal fornitore (l’1%) agli oltre 75.000 compiti presentati l’anno precedente. Il risultato ipotetico di 750 elaborati a rischio serviva a quantificare la portata potenziale del problema, non a certificare 750 persone ingiustamente punite.

Questa distinzione è sostanziale: un calcolo matematico su scala statistica non può essere confuso con il numero accertato di vittime reali. Bisogna sempre conoscere le condizioni sperimentali con cui vengono calcolate queste stime percentuali.

La lezione per le istituzioni scolastiche e accademiche è evidente: valutare l’impatto di un errore prima di attivare controlli automatici. Nessuna cifra promozionale sull’accuratezza sostituisce la necessità di stabilire chi esaminerà i casi controversi e con quali tutele per l’autore.

Newby contro Adelphi University: cosa ha stabilito il tribunale

Nel caso giudiziario Matter of Newby v Adelphi University, deciso il 28 gennaio 2026, uno studente ha impugnato la sanzione inflitta dall’ateneo per presunta violazione dell’integrità accademica. Gli atti riportano un responso di Turnitin pari al 100% di testo AI, la ferma smentita dello studente e i punteggi contrastanti di altri programmi prodotti dalla difesa.

La Adelphi University ha difeso il proprio operato sostenendo la razionalità del provvedimento e la piena conformità ai propri regolamenti. Il giudice ha tuttavia annullato la constatazione di infrazione e il rigetto del ricorso interno, ordinando la cancellazione della nota disciplinare e revocando la sanzione. La sentenza ha contestato sia la carenza di prove concrete sia le violazioni procedurali, evidenziando come l’ateneo non avesse preso in debita considerazione gli elementi difensivi dello studente compromettendo il suo diritto a un appello effettivo.

Non si è trattato di un bando totale dei rilevatori da parte della magistratura, né di una verifica scientifica della loro affidabilità. La decisione chiarisce che le istituzioni devono rispettare le proprie regole e vagliare attentamente le spiegazioni fornite. Allo stesso modo, il punteggio basso fornito da un secondo software non costituisce di per sé una prova di innocenza. Riporto il testo della pronuncia senza anticipare futuri sviluppi processuali.

In caso di contestazione, la lezione pratica è non limitarsi a ribattere con una percentuale opposta: ricostruisci la cronologia del lavoro, allega il materiale ignorato e richiedi quale norma esatta del regolamento si presume violata.

Cosa ci insegnano questi casi sulla verifica dell’autorialità

Il nodo critico emerge ogni volta che una metrica statistica viene scambiata per una certezza fattuale sul comportamento umano. Lo strumento di analisi può essere solo un elemento istruttorio, ma il modo in cui il dato viene comunicato genera spesso l’illusione di una prova inconfutabile.

Lo studio condotto da Debora Weber-Wulff e colleghi, pubblicato il 21 giugno 2023, ha testato 14 strumenti evidenziando evidenti problemi di affidabilità nelle condizioni analizzate, con errori in entrambe le direzioni. È una prova dell’instabilità metodologica dei software, non la base per definire un tasso universale di accuratezza per tutti i sistemi attuali.

• Distingui l’accusa dal fatto accertato. Dire che «il programma ha etichettato il testo» descrive la realtà in modo più accurato rispetto a «l’autore ha usato l’AI».
• Controlla l’oggetto della scansione. Un singolo estratto, l’elaborato completo o una bozza revisionata possono restituire valori discordanti.
• Archivia la data e il software esatto. Senza queste informazioni l’analisi non è né replicabile né confrontabile nel tempo.
• Rileggi le linee guida della consegna. La legittimità di singoli aiuti (come la correzione ortografica) va considerata caso per caso.
• Ascolta l’autore. Chi scrive deve poter replicare alla contestazione specifica esaminando i dati prodotti dall’accusa.

Un aspetto parallelo riguarda i rilevatori AI e la scrittura in una seconda lingua. Inoltre, le clausole adottate nei regolamenti di concorsi letterari e case editrici mostrano come non sia corretto equiparare ogni tipo di supporto digitale a una frode.

Cosa fare se il tuo testo viene classificato ingiustamente come AI

Questa procedura costituisce un metodo logico per strutturare le tue argomentazioni, non una garanzia di successo nel ricorso. La prima regola è congelare lo stato dei documenti: modificare il testo a posteriori nel tentativo di abbassare il punteggio rischia solo di confondere i fatti.

• Richiedi il report integrale, il nome del servizio impiegato, la data dell’analisi e la versione esatta del file caricato.
• Conserva scalette, appunti preparatori, bibliografia e la cronologia delle revisioni del file.
• Descrivi con trasparenza gli strumenti utilizzati: tutoraggio, correzione bozze, software di traduzione o modelli linguistici.
• Collega le note e i materiali preparatori ai singoli passaggi contestati, evitando di inviare cartelle disordinate.
• Verifica scadenze e canali formali per presentare ricorso nel regolamento del tuo istituto.
• Esigi una motivazione scritta del provvedimento che prenda in esame i riscontri da te forniti.

Evita di fabbricare file retrodatati per simulare versioni precedenti. Se hai lavorato su un unico file senza tracciamento delle modifiche, esponilo con chiarezza: puoi descrivere l’itinerario logico seguito, giustificare le fonti citate e indicare con chi ti sei confrontato. Ciascun elemento va inquadrato nel suo contesto; nessun singolo documento agisce come una patente magica di originalità.

Per chi valuta, è opportuno distinguere la verifica della padronanza della materia dalla fluidità oratoria: il colloquio deve servire a comprendere la genesi del ragionamento, non a improvvisare un test di resistenza emotiva. Prepara in anticipo i quesiti di merito e dai alla persona il tempo di integrare le risposte con riscontri documentali.

Risulta utile anche chiarire i limiti del materiale disponibile: la cronologia delle versioni attesta le fasi di salvataggio, ma non certifica da dove provenga ogni frase inserita; un appunto prova lo studio dell’argomento, non la redazione successiva. Anziché cercare una prova irrealistica, incrocia la coerenza di più fattori: tempi di stesura, bozze, riferimenti bibliografici e spiegazioni orali. Nella motivazione finale, separa i fatti dimostrati dalle incertezze residue.

Il mio test di ottobre 2026: anche i classici finiscono sotto accusa

Ho riscontrato lo stesso fenomeno il 14 ottobre 2026, analizzando estratti del romanzo di Thélyson Orélien insieme a campioni di controllo. Il tool AUTHORRA ha valutato un brano di «Germinal» di Émile Zola (pubblicato nel 1885) con un punteggio del 91,6% di AI, mentre ZeroGPT ha assegnato a «L’Horla» di Guy de Maupassant (1887) il 26,4% di AI. Pangram ha invece riconosciuto correttamente entrambi i controlli umani. Tutti i risultati e le schermate sono consultabili nell’approfondimento sul caso di Thélyson Orélien e i test sui rilevatori AI.

Se un programma ha segnalato un tuo elaborato, puoi consultare la guida pratica su cosa fare in caso di falsa accusa di uso dell’AI.

Domande frequenti

Un punteggio del 100% in un rilevatore AI prova la presenza di plagio?

No. È necessario comprendere il significato statistico dell’indice, le condizioni dell’analisi e la storia documentata della stesura. Una percentuale elevata non prova da sola né la paternità del testo né la violazione di una norma.

La Costituzione degli Stati Uniti è stata davvero classificata come AI?

Sì, alcuni suoi estratti sono stati contrassegnati come artificiali nel test documentato da Ars Technica nel luglio 2023. Quei risultati mostrano i limiti di quelle versioni e non vanno generalizzati a tutti i software attuali.

È utile verificare il testo con un secondo rilevatore AI?

Un secondo software può evidenziare una discordanza di punteggio, ma non ne chiarisce la causa. Per dirimere la questione è molto più utile confrontare le metriche con le bozze e i materiali di lavoro reali dell’autore.

La sentenza sul caso Adelphi ha vietato i software di rilevamento?

No. Ha censurato il procedimento e la decisione adottata da quello specifico ateneo. Non ha introdotto un divieto generale né ha stabilito che ogni responso degli algoritmi sia errato.

L’assenza della cronologia delle modifiche dimostra l’uso dell’AI?

Non costituisce una prova autosufficiente. Nelle tue spiegazioni descrivi il flusso di lavoro effettivo e presenta le fonti e gli appunti di cui disponi, senza tentare di ricostruire file artefatti a posteriori.

// continua a leggereRiconoscere testo AI: guida ai rilevatori, affidabilità e costiStrumenti IACaso Thélyson Orélien: ho testato il romanzo con tre rilevatori di IA. Stesso paragrafo: 100%, 85% e 0%MagazinePIDS-Bench: quanto sono deboli i rilevatori di prompt injectionMagazine

Kinetyra