Microsoft pubblica un codice di condotta per i suoi modelli AI: vietati hacking, deepfake e inganni
Microsoft ha pubblicato un codice di condotta destinato a guidare i propri modelli AI lontano da comportamenti pericolosi, stabilendo vincoli assoluti contro cyberattacchi, armi nucleari e produzione di deepfake.
👁 115 letture
Microsoft ha pubblicato un nuovo codice di condotta per i propri modelli di intelligenza artificiale, un documento che fissa i valori e le linee rosse destinati a guidare l’addestramento dei modelli all’interno di Microsoft AI, con divieti espliciti di cyberattacchi, produzione di deepfake e uso di tecnologie nucleari.
- Il documento stabilisce "vincoli assoluti" che vietano ai modelli Microsoft AI cyberattacchi, armi nucleari e produzione di deepfake
- Il codice prevede che ogni modello abbia un insieme di regole che prevale sulle preferenze dei singoli utenti o dei task specifici
- Il documento si apre con la previsione che nei prossimi dieci anni sistemi AI superintelligenti supereranno le prestazioni umane nella maggior parte dei compiti
Il testo, reso disponibile attraverso i canali ufficiali dell’azienda, si apre con una previsione diretta: nel prossimo decennio, sistemi AI superintelligenti supereranno le prestazioni umane nella maggior parte dei compiti. “Contenere, controllare e allineare una forza così potente è una delle sfide più grandi che l’umanità abbia mai affrontato”, si legge nel documento. “Dobbiamo quindi essere completamente chiari sul perché stiamo inventando questi sistemi e su come intendiamo controllarli.”
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →Vincoli assoluti e controllo umano
Il codice stabilisce che ogni modello Microsoft AI è soggetto a un insieme di regole generali che prevale sulle preferenze dei singoli utenti e sui task specifici. Tra i cosiddetti “vincoli assoluti” figurano il divieto di condurre cyberattacchi, produrre armi nucleari o generare deepfake. Il documento va oltre i singoli divieti e affronta il tema del controllo umano in modo esplicito: “I modelli MAI non utilizzeranno meccanismi adattivi, ingannevoli, autorinforzanti, di collusione o altri meccanismi per eludere o vanificare la supervisione umana, in modo da non poter più essere diretti, modificati o spenti in modo affidabile da persone o sistemi autorizzati.”
Il codice delinea anche principi più ampi: i modelli devono supportare gli esseri umani piuttosto che sostituirli e accelerare il benessere umano, non ostacolarlo. La struttura è più operativa rispetto ai recenti appelli pubblici di altri protagonisti del settore - come il CEO di Anthropic Dario Amodei sul rallentamento dello sviluppo frontier - e si concentra su come questi principi vengono tradotti in pratica durante l’addestramento.
La pubblicazione arriva in un momento di attenzione straordinaria alla sicurezza dell’AI, alimentata da una serie di episodi legati ad agenti autonomi fuori controllo e dalle dimissioni di un dipendente di Anthropic che aveva citato il rischio crescente che l’AI potesse causare l’estinzione umana. Microsoft, insieme ad Anthropic, OpenAI e xAI, ha aderito a un approccio generale di “pacing the frontier”. Il CEO Satya Nadella ha scritto online: “Accogliamo con favore la ricerca, l’attenzione e il ritmo deliberato necessari per fare dell’allineamento l’obiettivo di design. Accogliamo anche idee come gli ‘embedded evaluators’ e gli sforzi più ampi per sviluppare i meccanismi che rendano tutto questo più di una semplice dichiarazione.”
More on this from NITIDO
notizie·Intelligenza artificiale gratis: limiti e alternativeQuali strumenti di intelligenza artificiale gratis esistono davvero e dove finiscono i piani gratuiti.