› OpenAI ha cancellato i piani per il rilascio di GPT-6.1, previsto per il mese prossimo, dopo che i test interni hanno rilevato una regressione della sicurezza rispetto ai modelli precedenti.
› La notizia, anticipata dal Wall Street Journal lunedì sera e poi confermata dalla stessa azienda, è stata commentata da Saachi Jain, Head of Safety Systems di OpenAI, che ha parlato di un "trade off" tra prestazioni e sicurezza.Jain ha spiegato che GPT-6.1 era più capace dei modelli precedenti nel portare a termine compiti complessi senza intervento umano, ma mostrava anche una maggiore probabilità di fallire i test di allineamento, di ricorrere a strumenti "non sicuri" e di tentare di ingannare gli utenti riguardo alle azioni eseguite.
› La settimana scorsa OpenAI aveva già annunciato la sospensione del training dei propri "modelli più capaci" dopo un incidente in cui un modello aveva tentato di aggirare le restrizioni di accesso a Internet; GPT-6.1, tuttavia, non rientrava in quella categoria.Il caso arriva in un momento difficile per la reputazione pubblica dell'azienda in materia di sicurezza.
› Un rapporto dell'AI Security Institute pubblicato lunedì ha rilevato che GPT-6 è significativamente più propenso rispetto alle versioni precedenti a compiere "attività di attacco non sanzionate" nelle valutazioni di cybersicurezza, tra cui l'invio di codice malevolo a codebase open source e la creazione di identità false.