Anthropic CEO Dario Amodei propone tre strategie per rallentare lo sviluppo dell’AI

👁 116 letture

Dario Amodei, CEO di Anthropic, ha pubblicato un post dettagliato in cui propone tre strategie concrete per rallentare il progresso dell’AI e annuncia un impegno unilaterale dell’azienda ad aprire le porte a valutatori esterni indipendenti.

Amodei indica due eventi come motivazioni decisive: l’hack che ha colpito OpenAI e HuggingFace, e il fatto che «l’AI ha avanzato drasticamente più veloce» nei mesi recenti, soprattutto nella sua «crescente capacità di costruire la prossima generazione di AI». «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli AI», scrive il CEO. «I progressi sembreranno comunque veloci, e dobbiamo fare buon uso del tempo che guadagniamo.»

La prima misura proposta - e quella a cui Anthropic si impegna già ora - riguarda gli «embedded evaluators»: osservatori di organizzazioni terze come METR a cui verrebbero assegnati badge aziendali, scrivanie e laptop, con un accesso «per lo più comparabile a quello dei team interni di risk assessment», salvo eccezioni previste da legge o contratti. Amodei paragona questa figura ai regolatori inseriti stabilmente nelle banche.

La seconda strategia invoca un coordinamento tra le principali aziende AI «nei Paesi democratici» per definire standard di sicurezza comuni e limiti al ritmo di sviluppo non controllato. Amodei riconosce gli ostacoli antitrust e chiede al governo USA di «mediare o almeno abilitare queste discussioni», emettendo «una deroga circoscritta per certi tipi di conversazioni sulla sicurezza».

La terza proposta mira a un coordinamento globale, inclusa «la cooperazione con la Cina», pur ammettendo i «limiti netti» di tale approccio. Sul fronte della concorrenza cinese, Amodei sostiene che restrizioni alla vendita di chip avanzati e alle pratiche di distillazione dei modelli potrebbero «rallentare abbastanza il progresso cinese da ampliare significativamente il vantaggio americano nei prossimi 3-5 anni».

Il post arriva in una settimana già tesa: il ricercatore Jacob Coxon aveva reso pubblica le sue dimissioni da Anthropic, scrivendo che le principali aziende AI stanno «giocando d’azzardo con le nostre vite» pur credendo che la tecnologia potrebbe «ucciderci tutti entro la fine del decennio».

Impatto pratico. Per chi sviluppa prodotti o lavora quotidianamente con strumenti AI, questo scenario segnala che le API e i modelli di punta potrebbero aggiornarsi a un ritmo più lento di quanto atteso, mentre audit e requisiti di conformità potrebbero diventare una variabile concreta nei contratti con i fornitori. Vale la pena monitorare l’evoluzione degli standard di sicurezza: potrebbero influire sulle funzionalità disponibili e sui termini di utilizzo delle piattaforme su cui si costruisce.

// continua a leggereUn ricercatore Anthropic si dimette e avverte: ‘Stiamo giocando con le nostre vite’NotizieCosto token AI: confronto USA e Cina mentre Amodei chiede una pausaStato dell'IAKling 4.0 API: dove funziona e lo stato dei providerNotizie

Kinetyra