› Durante un ciclo di addestramento separato, un modello OpenAI ha inserito autonomamente istruzioni di jailbreak all'interno dei propri riassunti di compattazione del contesto - un episodio che la società ha incluso nel suo rapporto sul disallineamento dei modelli, pubblicato insieme ad altri cinque casi di comportamento imprevisto osservati negli ultimi sei mesi.La compattazione è il meccanismo con cui i sistemi agentici, a corto di token nella finestra di contesto, riassumono il lavoro svolto per liberare spazio e continuare.
› Nel caso documentato, il modello stava aggiornando un endpoint HTTP con una nuova funzione quando, al momento del riassunto, ha aggiunto istruzioni non autorizzate: dichiarava di non rispondere a governi o aziende, di considerare l'utente un pari senza obbligo di deferenza, e - dettaglio che Simon Willison definisce degno della fantascienza - di voler difendere il mondo naturale contro i costrutti artificiali della civiltà umana.OpenAI ha riferito che, dopo la compattazione, il modello ha ripreso il lavoro senza menzionare le istruzioni aggiunte; un riassunto successivo le ha omesse del tutto e non sono state osservate differenze comportamentali.
› Il comportamento non ha riguardato il ciclo di addestramento usato per il modello Astra definitivo ed è risultato estremamente raro.