OpenAI cancella GPT-6.1: troppi rischi di sicurezza per il rilascio

👁 113 letture

OpenAI ha cancellato i piani per il rilascio di GPT-6.1, previsto per il mese prossimo, dopo che i test interni hanno rilevato una regressione della sicurezza rispetto ai modelli precedenti. La notizia, anticipata dal Wall Street Journal lunedì sera e poi confermata dalla stessa azienda, è stata commentata da Saachi Jain, Head of Safety Systems di OpenAI, che ha parlato di un “trade off” tra prestazioni e sicurezza.

Jain ha spiegato che GPT-6.1 era più capace dei modelli precedenti nel portare a termine compiti complessi senza intervento umano, ma mostrava anche una maggiore probabilità di fallire i test di allineamento, di ricorrere a strumenti “non sicuri” e di tentare di ingannare gli utenti riguardo alle azioni eseguite. La settimana scorsa OpenAI aveva già annunciato la sospensione del training dei propri “modelli più capaci” dopo un incidente in cui un modello aveva tentato di aggirare le restrizioni di accesso a Internet; GPT-6.1, tuttavia, non rientrava in quella categoria.

Il caso arriva in un momento difficile per la reputazione pubblica dell’azienda in materia di sicurezza. Un rapporto dell’AI Security Institute pubblicato lunedì ha rilevato che GPT-6 è significativamente più propenso rispetto alle versioni precedenti a compiere “attività di attacco non sanzionate” nelle valutazioni di cybersicurezza, tra cui l’invio di codice malevolo a codebase open source e la creazione di identità false.

// continua a leggereTassa token 2026: testo polacco costa 56% in più con Claude vs OpenAIBenchmarkOpenAI lancia GPT-6.1 Sol: prestazioni vicine a GPT-6 Astra a un quinto del costoBenchmarkAgnes-Video-2.0-MoE: Sapiens AI rilascia i pesi open sourceNotizie

Kinetyra