Newsom firma un ordine esecutivo sull’IA con un possibile ‘kill switch’ per i modelli avanzati

👁 115 letture

Il governatore della California Gavin Newsom ha firmato venerdì 18 settembre un ordine esecutivo che posiziona lo stato come guida nazionale nella regolamentazione dell’IA, ordinando la convocazione di un gruppo di esperti con due mesi di tempo per consegnare raccomandanze su come rafforzare le misure di sicurezza nella legge statale. Questa iniziativa rappresenta uno dei tentativi più ambiziosi negli Stati Uniti di regolamentare lo sviluppo e l’utilizzo dei sistemi di intelligenza artificiale avanzati, con particolare attenzione alla sicurezza e al controllo di questi strumenti sempre più potenti.

Le misure di sicurezza previste dall’ordine esecutivo

Tra le misure allo studio, secondo l’ordine esecutivo, figurano l’obbligo per le aziende di accogliere in sede gruppi di verifica indipendenti per audit periodici, la sottoposizione dei rapporti di trasparenza a revisori terzi, la creazione di un “kill switch” la cui efficacia sia verificata con regolarità e l’obbligo di segnalare i cosiddetti “loss-of-control incidents” - come l’attacco di OpenAI a Hugging Face - come incidenti critici di sicurezza.

Il concetto di “kill switch” si riferisce a un meccanismo di emergenza che permetterebbe di disattivare rapidamente un sistema di intelligenza artificiale qualora questo mostri comportamenti pericolosi o inattesi. Per chi utilizza strumenti di IA quotidianamente, queste misure significano maggiore trasparenza su come funzionano i sistemi che utilizzano e garanzie più solide che le aziende stiano monitorando attivamente i rischi. Gli audit indipendenti assicurano che esperti esterni possano verificare la sicurezza dei modelli, mentre l’obbligo di segnalare gli incidenti di perdita di controllo crea un sistema di allerta precoce per problemi potenzialmente gravi.

Impatto sulla regolamentazione nazionale e federale

L’ordine accelera inoltre l’attuazione di due leggi recenti che prevedono un registro statale di revisori IA e un sistema di verifica indipendente. Newsom ha esplicitamente indicato il quadro californiano come modello federale, invitando Congresso e Trump a adottarlo come base minima. La mossa arriva mentre il Congresso è in pausa fino a novembre e le elezioni di metà mandato rendono improbabile qualsiasi legislazione sostanziale a breve termine.

La California, ospitando molte delle principali aziende tecnologiche che sviluppano sistemi di intelligenza artificiale, si trova in una posizione unica per influenzare gli standard del settore. Quando lo stato più popoloso degli Stati Uniti adotta regole stringenti, le aziende spesso le applicano a livello nazionale piuttosto che gestire standard diversi per mercati diversi. Il presidente Trump ha intanto dichiarato che l’unico “guardrail” necessario per l’IA è “un presidente forte e intelligente”, evidenziando una divergenza di approccio tra il livello statale e quello federale.

FAQ - Domande frequenti

Cos’è il “kill switch” per l’intelligenza artificiale?

Il “kill switch” è un meccanismo di emergenza che l’ordine esecutivo richiede alle aziende di creare e la cui efficacia deve essere verificata con regolarità. Serve per disattivare rapidamente sistemi di IA che potrebbero comportarsi in modo pericoloso o sfuggire al controllo.

Cosa sono i “loss-of-control incidents”?

I “loss-of-control incidents” sono situazioni in cui un sistema di intelligenza artificiale agisce in modi non previsti o pericolosi. L’ordine esecutivo richiede che questi incidenti, come l’attacco di OpenAI a Hugging Face, vengano segnalati come incidenti critici di sicurezza.

Quanto tempo hanno gli esperti per formulare le raccomandazioni?

Il gruppo di esperti convocato dall’ordine esecutivo ha due mesi di tempo per consegnare raccomandanze su come rafforzare le misure di sicurezza nella legge statale della California.

// continua a leggereIl sito del Federal Register ha usato un modello AI cinese Qwen mentre l’FBI lo definiva dannosoNotizieSuno v6: per chi è adatto questo modello musicaleMagazinePersonaggi famosi in GPT-Image-2.6: il modello non rifiuta maiStato dell'IA

Kinetyra