Quando due verifiche indipendenti sbagliano allo stesso modo
Uno studio mostra come due metodi di verifica diversi possano produrre lo stesso errore. Anche i modelli AI hanno replicato il difetto in 72 casi su 75.
👁 116 letture
L’articolo di Fabio Rovai, accettato al workshop AI for Science durante NeurIPS 2026, riguarda un errore specifico in una pipeline di dati che confronta due registri aperti di oggetti in orbita terrestre. L’autore descrive il meccanismo di un guasto definito “common-mode failure” - errore di modo comune.
Cos’è la doppia verifica e perché non ha funzionato
Una protezione standard nelle pipeline di dati è il calcolo ridondante: ogni numero pubblicato viene determinato con due metodi diversi basati su tecnologie diverse, e se i risultati differiscono, la pipeline si ferma. Nel caso descritto, un percorso utilizzava Python e operazioni su insiemi, l’altro - query SPARQL su un grafo RDF. Il gate che confrontava entrambi i risultati ha stampato il messaggio ALL CROSS-CHECKS AGREE per sette valori controllati. Tre di essi erano errati. Uno dei valori errati era sovrastimato di oltre quattro volte: la pipeline ha restituito 932 invece del corretto 220.
Perché la verifica non l’ha rilevato? Entrambi i percorsi importavano le stesse costanti, in cui era codificata una lettura errata del dizionario degli stati dal documento sorgente. Poiché l’errore era identico in entrambi i percorsi, il gate di confronto non aveva possibilità di notarlo - entrambi i risultati erano ugualmente errati, quindi si “confermavano” reciprocamente la correttezza.
Anche la correzione era errata
L’autore ha poi verificato il codice corretto rispetto alla cronologia delle fasi di ogni oggetto, memorizzata in un file sorgente che la pipeline non aveva mai letto. Si è scoperto che anche la correzione conteneva errori: 42 delle 261 discrepanze erano artefatti. Nessuno dei tre test di controllo descritti da Rovai ha rilevato questi artefatti.
Esperimento con modelli linguistici
L’autore ha condotto una replica controllata con tre modelli linguistici con strumenti aggiuntivi disabilitati. Su richiesta di generare percorsi di verifica indipendenti: 72 dei 75 percorsi generati hanno calcolato lo stesso valore errato del difetto originale. Significativamente, 29 dei 30 percorsi calcolavano il valore errato anche quando il prompt conteneva le definizioni dei codici di stato dalla documentazione della fonte stessa. Rovai non trae conclusioni più ampie che vadano oltre il caso descritto - sottolinea esplicitamente che le prove riguardano una pipeline e una famiglia di difetti.
Conclusione del documento
L’autore lo formula così: la ridondanza ha verificato l’implementazione, e gli errori che sono arrivati alla pubblicazione erano errori di significato. La pipeline controllava se entrambi i percorsi davano lo stesso risultato - ed era così. Non controllava se le assunzioni comuni su cui entrambi i percorsi si basavano fossero corrette. Rovai fornisce il meccanismo dell’errore, un registro dettagliato a livello di oggetti che riconcilia ogni numero, e tre test che tornano alla documentazione sorgente, misurati sia sul codice difettoso che sulla sua correzione. Codice, prompt, risultati grezzi dei modelli e registri dei singoli tentativi sono disponibili pubblicamente all’indirizzo indicato nell’articolo.
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →Cosa ne deriva
Questo studio di caso colpisce un’assunzione che molti ingegneri trattano come ovvia: che due diverse implementazioni tecniche della stessa logica diano indipendenza di verifica. Rovai mostra che l’indipendenza tecnica non significa indipendenza semantica - se l’errore sta nella comprensione dei dati in ingresso, e non nel codice, nessun numero di percorsi paralleli lo rileverà. Il risultato dell’esperimento con i modelli linguistici - 72 dei 75 percorsi hanno ripetuto lo stesso errore, anche con le definizioni nel prompt - suggerisce che i modelli possano amplificare questo tipo di errori di modo comune invece di intercettarli. Lo stesso autore avverte però che si tratta di un caso e di una famiglia di difetti, quindi non bisogna estrapolare troppo.
Fonte: arXiv cs.AI: Independent Verification Paths Are Not Independent: A Case Study of Common-Mode Failure in a Satellite Catalogue Pipeline (documento del 30-09-2026). Questa analisi è stata realizzata sulla base del testo completo del documento, non di resoconti di altri media.
More on this from NITIDO
magazine·Copilot e Gemini costano uguale: quale scegliere tra i due?Microsoft 365 Premium e Google AI Pro hanno lo stesso prezzo mensile. Confrontiamo cosa ottieni con ciascuno e sveliamo due limiti nascosti di Microsoft.