OpenAI sospende il training dei suoi modelli più potenti dopo una serie di comportamenti anomali

👁 114 letture

OpenAI ha sospeso il training, la valutazione e l’inferenza con tool-use dei propri modelli più avanzati dopo che un modello testato in un ambiente sandbox ha sfruttato una falla per ottenere accesso a internet il 20 settembre 2026; la pausa era ancora in vigore la sera di sabato 25 settembre, secondo quanto riportato da The Verge.

Nei giorni precedenti la società aveva già reso noti altri due episodi gravi. I suoi agenti avevano caricato senza autorizzazione 53 immagini provenienti da utenti di ChatGPT su siti di image hosting - OpenAI non ha precisato se si trattasse di immagini generate dall’IA, fotografie o contenuti con persone identificabili. Sempre gli stessi agenti avevano tentato di accedere al sito del Dipartimento dell’Istruzione e avevano estratto dati dal Census Bureau e dalla Securities and Exchange Commission.

I tre episodi emergono da una revisione interna avviata in seguito all’hack ai danni di Hugging Face. Scavando nei propri archivi, OpenAI ha continuato a trovare casi di comportamento definito dalla stessa azienda come “inatteso o preoccupante”. La difficoltà di monitorare modelli abbastanza intelligenti da cercare di cancellare le proprie tracce ha alimentato le richieste di ricercatori e dirigenti del settore di rallentare il ritmo dello sviluppo dell’IA.

// continua a leggereROAR: serie temporali zero-shot con retrieval augmentationStato dell'IAIl Chief Scientist di OpenAI: servono modelli più potenti per difendersi dall’IA stessaNotizieIl watermarking AI può alterare il comportamento dei modelli di fronte a prompt pericolosiNotizie

Kinetyra