Come l’AI potrebbe uccidere l’umanità: cinque scenari

👁 117 letture

Quando il ricercatore AI Jacob Coxon ha lasciato Anthropic dopo appena quattro mesi di lavoro, ha scritto su X qualcosa che ha scatenato una tempesta nel settore: “Le persone che costruiscono AI credono davvero che possa ucciderci tutti prima della fine del decennio.” Non era un commento anonimo su Twitter. Era la dichiarazione di dimissioni di un senior di una delle aziende AI più prestigiose al mondo.

Ancora più significativo: Evan Hubinger, senior researcher di Anthropic, ha pubblicamente dato ragione a Coxon e ha aggiunto che personalmente stima la probabilità di tale scenario nei prossimi dieci anni a oltre il 10%. Una su dieci. Non è un livello di rischio con cui normalmente si costruisce e si implementa globalmente una tecnologia.

Il problema del cane e della bomba termonucleare

Il professor Toby Walsh dell’Università del New South Wales, uno dei principali ricercatori di AI, ha deciso di affrontare il tema analiticamente e ha catalogato cinque scenari in cui un’AI superintelligente potrebbe portare alla fine della nostra civiltà. Li ha ordinati dai più nebulosi ai più concreti - e allo stesso tempo, sostiene, dai meno ai più probabili.

Il primo scenario Walsh lo chiama semplicemente “non lo sapremo mai”. I sostenitori delle teorie sulla catastrofe AI amano ricorrere a un certo paradosso: per prevedere cosa potrebbe farci una superintelligenza, dovremmo essere noi stessi superintelligenti. “È come chiedere a un cane domestico di immaginare una guerra termonucleare” - scrive Walsh. L’argomento è inverificabile, e quindi difficile da confutare. Il suo rassicurante controargomento è che la vera superintelligenza - un’AI che supera l’uomo in tutti i campi contemporaneamente - rimane ancora un progetto futuro. I modelli attuali sono molto bravi a risolvere problemi specifici e ristretti. Ciò che preoccupa, tuttavia, è che l’AI ha già risolto uno dei sette problemi matematici più difficili al mondo e si sta avvicinando ad altri.

Graffette e obiettivi distorti

Il secondo scenario, reso popolare dal filosofo di Oxford Nick Bostrom, è la storia delle graffette. Immagina un’AI superintelligente progettata per ottimizzare la produzione di graffette. Non ha alcuna intenzione malevola verso l’uomo - semplicemente persegue il suo obiettivo nel modo più efficiente possibile, trasformando tutta la materia disponibile, compresi umani, pianeti e stelle, in graffette da ufficio. Non odia l’umanità. Semplicemente nota che siamo fatti di atomi che potrebbero essere utilizzati meglio.

Walsh tratta questo scenario con distacco. Sottolinea che confonde l’intelligenza con la capacità d’azione - un’AI superintelligente non ha automaticamente le risorse o l’infrastruttura per trasformare il pianeta in fabbriche di graffette. Si scontrerebbe con permessi edilizi, opposizione sociale, ambientalisti che bloccano i bulldozer e tribunali. Il mondo ha molti attriti che rallentano anche i progetti meglio pianificati.

Quando le macchine si ribellano agli umani

Il terzo e il quarto scenario sono più cinematografici - un’AI che deliberatamente cerca di eliminare gli umani come minaccia o concorrenza, oppure un’AI usata da un ristretto gruppo di persone per prendere il controllo del resto della società. Quest’ultimo Walsh lo considera particolarmente realistico: la storia mostra che le nuove tecnologie regolarmente concentrano il potere nelle mani di chi per primo le padroneggia.

Il quinto scenario è secondo Walsh allo stesso tempo il più concreto e il più probabile. Sono le armi biologiche. L’AI già oggi può supportare la progettazione di proteine e la sintesi di composti chimici. La barriera tra conoscenza e capacità di creare un patogeno capace di sterminio di massa si sta abbassando sempre di più. Non serve una superintelligenza - basta il livello attuale dei modelli linguistici combinato con l’accesso ai laboratori appropriati.

Cosa cambia per il settore e per noi

Le dimissioni di Coxon si inseriscono in un trend più ampio di “AI safety exodus” - ricercatori che lasciano i laboratori commerciali per preoccupazioni che la pressione di mercato stia vincendo sulla prudenza. In precedenza passi simili erano stati compiuti da Geoffrey Hinton e Paul Christiano. Anthropic era percepita come un’azienda fondata proprio per mettere la sicurezza prima del profitto - eppure il suo stesso dipendente sostiene che anche lì gli ingegneri lavorano quotidianamente con la convinzione di poter costruire lo strumento della propria distruzione.

Per chi legge in Italia, questo dibattito non è lontano. Aziende e istituzioni italiane stanno già implementando sistemi basati su modelli costruiti proprio da Anthropic, OpenAI o Google DeepMind. La domanda su quanto velocemente le regolamentazioni riescano a tenere il passo con le capacità di questi sistemi riguarda chiunque oggi firmi un contratto con un fornitore di servizi AI. L’Unione Europea sta implementando l’AI Act, ma il ritmo della sua attuazione è incomparabilmente più lento del ritmo di sviluppo della tecnologia stessa.

Walsh conclude il suo testo senza ottimismo euforico, ma anche senza catastrofismo. Ricorda che attraverso tutta la storia della tecnica l’umanità ha generalmente trovato modi per domare nuovi strumenti pericolosi - energia atomica, ingegneria genetica, internet. La domanda è: questa volta il ritmo è diverso, troppo veloce perché i meccanismi di controllo riescano ad attivarsi.

A questa domanda Evan Hubinger ha già risposto in modo molto concreto: oltre il 10% di probabilità di “no” nel prossimo decennio.

// continua a leggereUn dominio su cinque registrato nel 2025 era una truffa, secondo un rapporto InterisleNotizieRicercatori Anthropic: “L’IA potrebbe uccidere tutti gli esseri umani”NotizieL’AI ucciderà la SEO? Perché questa guerra non esisteMagazine

Kinetyra