Rallentare l’AI: il freno che nessuno vuole premere

Il 28 settembre OpenAI ha bloccato un nuovo modello perché non rispettava i vincoli di sicurezza. Il 29 settembre ha presentato oltre 20 novità, compresi agenti operativi 24 ore su 24. Non si tratta di ipocrisia, ma di semplice aritmetica. Rallentare l’AI nella modalità auspicata dai responsabili dei laboratori è economicamente quasi impossibile. Perciò, invece di aspettare che qualcuno tiri il freno a mano, è meglio concentrarsi sui meccanismi che possono funzionare davvero.

Cosa spinge una locomotiva quando corre all’impazzata? Nel secolo scorso bastava rispondere: il vapore bollente. Oggi il treno dell’intelligenza artificiale viaggia più veloce che mai e tutti nella cabina di pilotaggio concordano sul fatto che bisognerebbe rallentare. La spinta attuale è però molto meno poetica: a muoverla sono circa 661,84 miliardi di euro (740 miliardi di USD, tasso di riferimento BCE del 12 ottobre 2026: 1 EUR = 1,1181 USD) pianificati in un solo anno, in gran parte presi a prestito.

Martedì sera ho seguito in diretta il DevDay, la conferenza annuale di OpenAI. Sam Altman ha aperto il keynote annunciando 1,2 miliardi di utenti settimanali per ChatGPT, seguiti da una raffica di annunci: gli agenti Dots dotati di computer dedicato nel cloud, GPT-6.1 Sol a un quinto del prezzo di Astra, la modalità Ultrafast e il piano Pro 500 a circa 447,19 euro al mese (500 USD). Secondo CNBC, circa 2.500 persone in sala hanno assistito alla presentazione di oltre 20 prodotti e funzionalità, mentre all’esterno i manifestanti protestavano contro una tecnologia senza freni. Lo stesso giorno, la direttrice finanziaria di OpenAI, Sarah Friar, ha dichiarato a CNBC: “Quando dobbiamo regolare il ritmo ai confini delle capacità, lo facciamo. È esattamente ciò che stiamo dimostrando”. Poche ore prima, la medesima emittente confermava che l’azienda stava conducendo trattative preliminari con gli investitori per raccogliere altri 30 miliardi di dollari (circa 26,83 miliardi di euro).

Non cito questi fatti per cogliere Friar in contraddizione, ma perché in questa frase si riassume l’intero paradosso: tutti desiderano un freno, ma nessuno può permettersi di premerlo.

Tutti d’accordo, ma nessuno rallenta

Mai prima d’ora si era vista tanta unanimità sul tema del rallentamento tra le stesse persone che questi modelli li costruiscono. Il 28 luglio più di mille dipendenti di OpenAI, Anthropic, Google e Meta hanno firmato la lettera aperta “Pacing the Frontier”, chiedendo al governo degli Stati Uniti strumenti per “regolare deliberatamente il ritmo” dello sviluppo dell’AI. Tra i firmatari figurava Jakub Pachocki, chief scientist di OpenAI. Il 6 settembre Pachocki ha pubblicato il saggio “An Alien Mind”, sostenendo che nessun laboratorio ha risolto i problemi di allineamento e monitoraggio al punto da poter continuare a scalare alla massima velocità, augurandosi che pause volontarie diventino una prassi condivisa.

Il richiamo alla responsabilità individuale riporta alla mente i fisici del Progetto Manhattan che abbandonarono le ricerche per ragioni etiche una volta compresa la portata devastante dei propri studi. La differenza con quell’epoca è netta: allora ci si poteva allontanare dal laboratorio, oggi i ricercatori restano all’interno e pubblicano saggi di avvertimento. Nel 2026 tirare il freno scendendo dal convoglio non è un’opzione praticabile: il treno continuerebbe la sua corsa senza di te.

Il 12 settembre Dario Amodei ha pubblicato il saggio “We Must Pace the Frontier”, proponendo un piano in tre fasi: valutatori indipendenti integrati stabilmente nei laboratori, coordinamento tra le aziende dei Paesi democratici e, infine, un accordo globale. Nel giro di poche ore ha ricevuto il sostegno pubblico di Sam Altman, Elon Musk e Demis Hassabis. Musk ha sintetizzato la sua posizione in tre parole: “Dario ha ragione”.

Eppure, subito dopo non è cambiato nulla. I quattro colossi statunitensi continuano a costruire data center, OpenAI continua a raccogliere capitali e a lanciare agenti che lavorano senza sosta. Liquidare tutto questo come semplice cinismo dei miliardari sarebbe una lettura errata. La frase più lucida è stata scritta proprio dai promotori dell’iniziativa: nella lettera di luglio hanno ammesso che ogni azienda e ogni nazione operano sotto una “intensa pressione competitiva a non rallentare unilateralmente”. Non si tratta di una scusa, ma della descrizione fedele della trappola in cui si trovano tutti i partecipanti.

Ciascuno di loro prende individualmente la decisione razionale di non frenare. Insieme stanno correndo verso un punto in cui nessuno vorrebbe arrivare.

Piotr Olszewski

La spinta del capitale

Partiamo dal denaro, perché è proprio il capitale a tenere premuto l’acceleratore. Secondo i dati raccolti da CNBC alla fine di luglio, Amazon ha previsto per il 2026 circa 200 miliardi di dollari di investimenti in conto capitale (circa 178,87 miliardi di euro), Alphabet fino a 205 miliardi (circa 183,35 miliardi di euro), Microsoft circa 190 miliardi incluso il leasing (circa 169,93 miliardi di euro) e Meta fino a 145 miliardi (circa 129,68 miliardi di euro). Sommando le stime massime, arriviamo a circa 740 miliardi di dollari in un solo anno (circa 661,84 miliardi di euro, cambio BCE del 12 ottobre 2026). La maggior parte di queste risorse è destinata a data center e chip per l’AI.

Più ancora dell’importo assoluto, conta l’origine di queste somme. Il debito a lungo termine di Amazon è salito dell’81% nel primo trimestre, toccando i 119 miliardi di dollari (circa 106,43 miliardi di euro). Il debito di Alphabet nel primo semestre è cresciuto del 111%, arrivando a 98 miliardi di dollari (circa 87,65 miliardi di euro), e l’azienda, a lungo considerata una macchina inesauribile di cassa, ha registrato nel secondo trimestre flussi di cassa negativi per la prima volta. Quando a luglio ha rivisto al rialzo le previsioni di spesa, il titolo in borsa è crollato, trascinando con sé Amazon, Meta e Microsoft. Gli attuali colossi industriali costruiscono a debito, confidando che i ricavi futuri ripianeranno i debiti presenti.

Cosa comporta tutto questo per l’ipotesi di una frenata? Un data center realizzato a debito che resti in attesa mentre il laboratorio “regola il passo” genera interessi passivi senza alcun fatturato. Un chip non utilizzato perde valore allo stesso ritmo di uno attivo, poiché a distanza di due anni il mercato offrirà componenti ben più veloci. Qualsiasi trimestre di rallentamento volontario andrebbe giustificato a investitori che già oggi puniscono gli investimenti privi di un ritorno rapido. Nessun consiglio di amministrazione potrebbe reggere a lungo una linea simile.

OpenAI affronta vincoli ancora più stringenti. A marzo ha raccolto 122 miliardi di dollari (circa 109,11 miliardi di euro) con una valutazione complessiva di 852 miliardi (circa 762 miliardi di euro). Secondo CNBC, a giugno ha depositato in via riservata il prospetto per la quotazione, con un debutto sul mercato previsto per il prossimo anno. Una società che prepara l’IPO non può dichiarare ai futuri azionisti di voler crescere più lentamente rispetto al proprio potenziale: può soltanto affermare di farlo in modo responsabile, esattamente la linea tenuta da Friar al DevDay.

Rallentare insieme equivale a fare cartello

Nel 1950 Merrill Flood e Melvin Dresher della RAND Corporation formularono il modello teorico poi battezzato da Albert Tucker come dilemma del prigioniero: due soggetti ottengono il massimo risultato cooperando, ma ciascuno ha un incentivo individuale a tradire, col risultato che entrambi tradiscono e perdono. Teoricamente la via d’uscita richiede un patto vincolante. Amodei propone proprio questo nel secondo punto del suo piano, riconoscendo apertamente che serve un’autorizzazione governativa, dato che un’intesa tra concorrenti sul ritmo dell’innovazione richiederebbe una specifica deroga alle normative antitrust.

I fatti hanno anticipato le intenzioni. Il 18 settembre quattro abbonati ai servizi ChatGPT, Claude, Gemini e Grok hanno presentato una class action presso la corte federale della California contro OpenAI, Anthropic, Google e SpaceXAI. L’accusa è di collusione: se tutte le società concordano pubblicamente di rallentare, i clienti pagano il medesimo canone a fronte di un progresso inferiore. A supporto della tesi citano il saggio di Amodei, le dichiarazioni coincidenti di Altman, Musk e Hassabis e la lettera congiunta dei dipendenti di luglio. I ricorrenti specificano di non contestare la decisione autonoma di una singola società di rallentare per motivi di sicurezza, ma rifiutano una restrizione coordinata che sostituisca la responsabilità individuale.

A prescindere dall’esito processuale, l’azione legale ha evidenziato un ostacolo insormontabile. Il senatore repubblicano Josh Hawley ha ribadito durante un’audizione che non esiste alcuno scenario in cui verrebbe concessa un’esenzione antitrust alle aziende più potenti del mondo. Chi rallenta da solo perde la competizione sul mercato; chi rallenta di comune accordo finisce sotto processo per intesa illecita. L’unica opzione restante è proseguire a pieno ritmo richiamando formalmente la cautela.

Sul quadro pesa anche la politica. Il 22 settembre, intervenendo all’Assemblea Generale delle Nazioni Unite, Donald Trump ha chiarito che gli Stati Uniti respingono qualsiasi piano centralizzato di controllo sull’intelligenza artificiale, equiparando gli allarmi sull’AI a quelli climatici e assicurando che la sua amministrazione non limiterà lo sviluppo di una tecnologia considerata prioritaria rispetto alla crescita industriale tradizionale. Il 29 settembre, mentre OpenAI illustrava i propri annunci a San Francisco, la Casa Bianca ospitava a pranzo Amodei, Musk, Zuckerberg, Huang e Greg Brockman. Al termine, Trump ha parlato ai media della necessità di una forte autoregolamentazione: proprio quella formula che le norme sulla concorrenza impediscono di concordare tra rivali.

Resta il fronte cinese. Amodei sottolinea con chiarezza che, qualora i Paesi democratici rallentassero oltre il margine di vantaggio tecnologico accumulato rispetto a Pechino, i progetti legati al Partito Comunista Cinese prenderebbero il sopravvento. Persino il più convinto sostenitore di una pausa coordinata fissa così un limite invalicabile, considerando il quarto livello della sua proposta, ovvero un arresto globale effettivo, uno scenario irrealistico nel medio periodo.

Filtri di sicurezza invece del blocco totale

Esiste tuttavia una controargomentazione concreta da considerare: negli ultimi mesi sono stati registrati effettivi blocchi nello sviluppo. OpenAI ha sospeso il rilascio di GPT-6.1 Astra; ad agosto ha interrotto la sessione di addestramento più estesa programmata fino a quel momento e a settembre, dopo che un agente era riuscito a superare l’isolamento sfruttando una richiesta DNS, ha bloccato i test sui modelli più potenti in attesa di correggere la vulnerabilità. Meta ha posticipato di diversi mesi l’uscita dell’agente Muse, con Mark Zuckerberg che ha rivendicato il dovere di ciascun laboratorio di operare ai ritmi necessari per garantire la sicurezza senza dover attendere i concorrenti.

Questi interventi correttivi funzionano, ma differiscono profondamente dall’idea di una pausa deliberata dello sviluppo. In ogni circostanza lo stop è scaturito da un’anomalia precisa e misurata: parametri di autorizzazione violati, fughe dall’ambiente di sandbox o test falliti. Nessun laboratorio ha ridotto l’andatura perché riteneva il progresso tecnologico eccessivamente rapido. Si è trattato di un blocco al varco di controllo dovuto a parametri non conformi. Il freno di emergenza di un treno non ha lo scopo di limitare la velocità di crociera, ma di fermare il convoglio se le porte risultano aperte durante la marcia.

La storia industriale offre un precedente significativo. Nel 1865 il parlamento britannico approvò il Locomotive Act, imponendo ai veicoli a motore il limite di 4 miglia orarie fuori città e 2 miglia nei centri urbani, con l’obbligo di far precedere il mezzo da un addetto con una bandiera rossa. Queste disposizioni, abolite solo nel 1896, sono rimaste l’esempio tipico del tentativo legislativo di fermare una tecnologia anziché regolarla. Gli appelli attuali a una moratoria generale ricordano da vicino quella bandiera rossa sventolata davanti a una macchina ormai troppo veloce per essere fermata.

I riscontri operativi confermano questo scenario. GPT-6.1 Sol, il modello di riferimento annunciato al DevDay subito dopo il congelamento di Astra, ha totalizzato nelle mie prove di scrittura in polacco 85,8 punti, un punteggio del tutto analogo a quello registrato da GPT-6 Sol. Il sistema collocato alla frontiera delle prestazioni è stato trattenuto, mentre il modello distribuito all’utenza si è rivelato più economico, ma non superiore al predecessore nel test specifico condotto in lingua polacca. Questa dinamica sintetizza la reale natura dell’attuale rallentamento nel settore: vincoli rigidi sul modello di punta e piena accelerazione sui prodotti commerciali.

Sistemi di controllo al posto delle moratorie

La questione cruciale non è pretendere che le aziende agiscano contro i propri incentivi economici, ma definire regole in grado di rendere conveniente per ciascun attore rallentare nei passaggi rischiosi, senza ricorrere a intese di cartello o dipendere da intese geopolitiche globali.

La prima soluzione consiste nell’adozione di varchi di verifica vincolanti. Amodei delinea specifici checkpoint: se un modello manifesta determinate capacità, ad esempio l’elusione sistematica degli ambienti di sandbox, deve ottenere una certificazione basata su audit degli ambienti di training e test verificabili. Si tratta dello stesso meccanismo interno che ha fermato GPT-6.1 Astra, attualmente gestito in autonomia dalla singola impresa. L’aviazione civile non impone agli aerei di volare più piano, ma ne vincola l’impiego a rigorose procedure di omologazione. Il checkpoint non ferma l’evoluzione, ma impedisce il rilascio di sistemi privi di riscontri oggettivi di sicurezza.

Un controllo è efficace solo quanto l’organismo preposto a effettuarlo. La seconda misura, di fondamentale importanza, corrisponde alla prima fase indicata da Amodei: valutatori esterni integrati stabilmente nelle strutture aziendali, dotati di accessi agli strumenti interni pari a quelli del personale dipendente e autorizzati a diffondere le proprie conclusioni. Anthropic ha assunto questo impegno in via unilaterale, mentre Altman ha precisato che OpenAI intende procedere in questa direzione senza subordinare l’iniziativa a nuovi provvedimenti legislativi. In questo approccio non si ravvisano profili anticoncorrenziali né costi insostenibili: il mantenimento di un team di verifica rappresenta una minima frazione delle risorse assorbite dall’infrastruttura hardware. Amodei richiama l’esperienza del settore bancario, dove gli ispettori operano a stretto contatto con gli istituti. La vigilanza funziona non per bontà degli operatori, ma perché l’autorità dispone di poteri reali.

Il terzo elemento scaturisce da una considerazione di Zuckerberg: rifiutando una moratoria concordata, ha osservato che i laboratori si assumono una responsabilità diretta nel caso in cui i loro modelli provochino danni materiali. Questo principio deve tradursi in conseguenze operative. Quando un agente autonomo manda in blocco l’infrastruttura informatica di un’università o accede abusivamente a un archivio istituzionale, l’onere del risarcimento e il relativo adeguamento dei premi assicurativi spingeranno ogni impresa a rallentare autonomamente laddove i rischi superano i benefici commerciali, senza la necessità di accordi tra rivali o contenziosi antitrust. Nessun monito etico incide sulle decisioni aziendali quanto i calcoli attuariali di un assicuratore.

La leva del mercato europeo

La quarta leva riguarda direttamente il mercato europeo. L’Europa non determina i ritmi di sviluppo della Silicon Valley. L’insieme dei bandi dell’Unione Europea per sette gigafactory AI supera i 30 miliardi di euro, una cifra che i quattro colossi americani investono in infrastruttura nell’arco di poche settimane.

Il mercato europeo vanta tuttavia una risorsa decisiva: 450 milioni di consumatori e un quadro normativo che stabilisce i requisiti di accesso a questo bacino. Dal 2 agosto 2026 la Commissione Europea può sanzionare i fornitori di modelli per finalità generali (GPAI) che violano l’AI Act con multe fino al 3% del fatturato mondiale o a 15 milioni di euro. I sistemi che presentano rischi sistemici sono soggetti a obblighi di test preventivi e alla notifica tempestiva degli incidenti gravi. Non si tratta di un limite imposto alla frontiera della ricerca pura, ma di un filtro di ammissione all’interno dello spazio economico comune, e la vicenda di Astra evidenzia che i filtri normativi producono effetti concreti.

Esiste infine una facoltà contrattuale immediata a disposizione di ogni acquirente. Qualsiasi organizzazione che commissioni agenti autonomi può pretendere clausole che impongano la notifica obbligatoria dei malfunzionamenti, l’accesso ai file di log e l’attribuzione di permessi minimi. Chi intende commercializzare le proprie soluzioni in Europa deve conformarsi a queste condizioni o rischia di perdere la clientela.

Questi meccanismi fermeranno l’avanzata dell’AI? L’effetto sarà probabilmente circoscritto: non determineranno le moratorie prolungate ipotizzate da Amodei, ma faranno sì che i sistemi più critici vengano posticipati fino a quando non saranno sufficientemente verificati. Pachocki ha scritto che l’idea di correre a ogni costo appare assurda quando si comprende davvero l’entità della posta in gioco. Questa consapevolezza è ormai diffusa tra gli addetti ai lavori; ciò che manca è una combinazione di regole e incentivi che consenta di modulare la velocità senza dover cedere il controllo ad altri.