Riconoscimento facciale a Londra: 320 mila sterline per un falso allarme

👁 111 letture

La polizia ferroviaria britannica (British Transport Police) ha concluso a luglio un test semestrale del sistema di riconoscimento facciale in tempo reale nelle stazioni più affollate di Londra. Un documento ottenuto tramite accesso agli atti da Liberty Investigates e condiviso con il quotidiano Guardian mostra il bilancio: 320.786 sterline spese per il noleggio delle apparecchiature e l’impiego degli agenti, 18 postazioni operative, quasi 100 ore di servizio dei poliziotti, più di mezzo milione di volti scansionati e un unico riscontro positivo con la lista dei ricercati. Allarme rivelatosi errato. Arresti: zero.

Questo non è un articolo su un guasto tecnologico. Il sistema ha funzionato esattamente come previsto: ha confrontato i volti dei passanti con un elenco di ricercati e persone destinatarie di misure restrittive giudiziarie. Il problema risiede altrove, ed è di natura prettamente aritmetica. Per questo ho preso in mano la calcolatrice.

Quanto è costato scansionare mezzo milione di volti

In base ai tassi di cambio della spesa pubblica britannica, l’operazione pilota di sei mesi è costata 320.786 sterline. Questa cifra ha generato un solo risultato: una falsa corrispondenza. Il costo unitario di quell’unico avviso, a prescindere dalla sua inesattezza, è stato quindi esattamente pari all’intero budget speso. Il costo per singolo arresto effettivo è impossibile da calcolare, poiché la divisione per zero non ha senso matematico, ed è questo il dato più significativo dell’intera operazione.

La seconda divisione mostra la reale portata del trattamento dei dati. Dividendo 320.786 sterline per 500 mila volti scansionati si ottengono circa 0,64 penny a testa. Per questa frazione irrisoria di moneta, l’apparato pubblico ha trattato i dati biometrici di persone che, nella stragrande maggioranza dei casi, non sapevano nemmeno che il proprio volto fosse stato convertito in un vettore matematico e confrontato con un archivio di sospetti. Mezzo milione è una cifra indicata come “superiore a”, quindi il prezzo reale per scansione è persino inferiore: e questo è l’argomento principale con cui i promotori difendono tali sistemi. Costa poco, quindi perché non farlo?

Il terzo calcolo riguarda il personale, non i dispositivi. Quasi 100 ore di lavoro distribuite su 18 postazioni significano una media di 5,5 ore di presidio per ciascuna attivazione. Rapportando il costo totale di 320.786 sterline, si ottengono circa 3.208 sterline per ogni ora di presenza della polizia accanto alle telecamere. Ovviamente questa voce copre principalmente il noleggio delle tecnologie e non i singoli stipendi, ma mette a fuoco la struttura della spesa: si è pagato per la tecnologia, non per il personale, e la tecnologia non ha prodotto arresti.

L’ex commissario alla biometria: “Un test poco fruttuoso”

Fraser Sampson, fino a poco tempo fa commissario britannico per la biometria e la videosorveglianza, è attualmente membro del consiglio di sorveglianza di Facewatch (società che installa sistemi di riconoscimento facciale nei negozi), ha commentato i risultati senza mezzi termini. Ha evidenziato un aspetto fondamentale: il successo di un sistema nel commercio e il successo nelle indagini di polizia rispondono a parametri completamente diversi.

Sappiamo che la tecnologia funziona, ma impiegarla nei supermercati per scoraggiare i taccheggiatori e prevenire le aggressioni al personale è una cosa del tutto diversa dal dispiegarla per fermare le persone nella rete dei trasporti pubblici. Il successo in un negozio significa che certe persone non entrano affatto. Il successo per la polizia che cerca di fermare qualcuno significa che le persone vengono effettivamente arrestate. Sotto questo profilo, il test non sembra particolarmente fruttuoso.

Sampson, intervistato dal Guardian, ha aggiunto un elemento chiave per la valutazione giuridica: il sistema tratta categorie particolari di dati personali, e l’onere di dimostrare che il trattamento sia appropriato, proporzionato e necessario ricade interamente sulle forze dell’ordine. Non spetta al cittadino provare di aver subito un danno.

Nonostante questo esito, la British Transport Police ad agosto ha prorogato la sperimentazione per altri quattro mesi, estendendola alle stazioni della metropolitana. Dopo la proroga sono state registrate tre corrispondenze confermate: tutte e tre riguardavano soggetti che, a seguito di verifica, stavano rispettando le prescrizioni imposte dal tribunale. Dunque: zero arresti, zero infrazioni accertate e tre cittadini che si spostavano legalmente fermati per un controllo innescato da un algoritmo.

Cosa prevede l’AI Act europeo per il riconoscimento biometrico in tempo reale

Nell’Unione Europea l’impiego di telecamere per il riconoscimento facciale in tempo reale nello spazio pubblico è soggetto a vincoli estremamente più severi. Esistono contesti in cui l’identificazione biometrica viene impiegata, ad esempio per la sicurezza negli stadi o ai varchi aeroportuali, ma si tratta solitamente di una verifica “uno a uno” (il confronto fra il volto e il documento del viaggiatore), non di una scansione indistinta della folla incrociata con elenchi di polizia.

Il quadro normativo europeo poggia sull’articolo 9 del GDPR, che classifica i dati biometrici intesi a identificare in modo univoco una persona fisica come categorie particolari di dati, il cui trattamento è vietato salvo specifiche deroghe. Per le attività di polizia si applica la direttiva 2016/680, che richiede solide basi legislative primarie.

A questo si affianca il regolamento sull’intelligenza artificiale. L’AI Act, all’articolo 5, vieta espressamente l’uso di sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico per scopi di contrasto, salvo eccezioni tassative: ricerca di vittime di sequestro, prevenzione di una minaccia terroristica imminente o individuazione di autori di reati gravissimi specificamente elencati, e sempre previa autorizzazione giudiziaria o di un’autorità amministrativa indipendente. Tali divieti dell’articolo 5 sono entrati in vigore il 2 febbraio 2025 (puoi approfondire l’elenco completo nell’articolo sulle pratiche vietate dall’AI Act). Il test di Londra si è svolto nel Regno Unito, fuori dall’UE; nell’Unione Europea un’applicazione identica richiederebbe la prova stringente di rientrare in una di queste ridottissime deroghe legali.

Cosa può fare un cittadino in caso di telecamere biometriche

Qualora sul territorio dell’Unione Europea dovessero emergere sperimentazioni o proposte di riconoscimento facciale negli spazi pubblici o aperti al pubblico, i cittadini dispongono di precise tutele:

In primo luogo, il titolare del trattamento ha l’obbligo di informare le persone prima che entrino nel raggio di ripresa delle telecamere, indicando base giuridica e finalità. In secondo luogo, in base all’articolo 15 del GDPR, hai il diritto di presentare un’istanza di accesso per sapere se i tuoi dati sono stati elaborati biometricamente o registrati come normale filmato di videosorveglianza; la risposta deve arrivare entro un mese. Infine, è possibile presentare reclamo all’autorità Garante per la protezione dei dati personali, che ribadisce con costanza che il trattamento biometrico deve rispettare principi di stretta necessità e proporzionalità: il semplice consenso non è sufficiente se l’obiettivo di sicurezza può essere raggiunto con strumenti meno invasivi.

Per le amministrazioni locali e gli organi deliberativi, i dati del test londinese offrono un parametro di bilancio chiaro: oltre 320 mila sterline per sei mesi, 18 uscite e un solo falso allarme sono un argomento quantitativo rilevante da esaminare prima di qualsiasi gara per sistemi di sorveglianza avanzata.

Perché l’assenza di arresti non significa che l’algoritmo sia difettoso

Sampson ha evidenziato le variabili che devono coincidere perché una tecnologia simile produca riscontri utili: posizione precisa, orario del presidio, composizione dell’elenco dei ricercati e la probabilità statistica che un ricercato transiti proprio davanti a quell’obiettivo. Tutte insieme. Con 18 attivazioni in sei mesi (in media una ogni dieci giorni), la probabilità di intercettare uno specifico ricercato in una metropoli di milioni di abitanti è minima. Il software ha registrato mezzo milione di volti sbagliando una sola volta: dal punto di vista ingegneristico è una buona precisione, ma dal punto di vista della spesa pubblica è un investimento che ha scarse opportunità di generare un ritorno operativo proporzionato.

Il rischio più concreto è che l’argomento dell’inefficacia si trasformi in una spinta all’espansione. Basterebbe allargare le liste dei sospetti, moltiplicare le postazioni e prolungare le ore di osservazione per far salire le corrispondenze, esattamente ciò che ha fatto la British Transport Police estendendo i controlli alla metropolitana. Ma se i nuovi riscontri continuano a colpire individui che non stanno violando la legge, la precisione statistica dell’algoritmo non risolverà il problema della proporzionalità dell’intervento. E a questo dilemma le metriche del software non sanno dare risposta.

Verifica dei fatti completata il 1 ottobre 2026. Fonti: The Guardian - Trial of live facial recognition in London stations leads to a false positive and no arrests, documentazione FOI ottenuta da Liberty Investigates, Regolamento (UE) 2024/1689 - AI Act, art. 5, GDPR, art. 9 e art. 15.

// continua a leggereCome riconoscere una canzone fatta con AI: 6 segnaliMagazineApp riconoscimento funghi: test AI su 6 foto (anche Amanita)MagazineBusinesses in ChatGPT: come funziona e chi può usarlo in ItaliaNotizie

Kinetyra