Il Chief Scientist di OpenAI: servono modelli più potenti per difendersi dall’IA stessa
Jakub Pachocki, Chief Scientist di OpenAI, ha dichiarato il 7 settembre 2026 che lo sviluppo di modelli sempre più intelligenti è giustificato principalmente dalla necessità di costruire sistemi difensivi contro i pericoli posti dall'IA stessa.
👁 117 letture
Jakub Pachocki, Chief Scientist di OpenAI, ha reso pubblica il 7 settembre 2026 la sua posizione sul perché l’azienda continui ad addestrare modelli di intelligenza artificiale sempre più capaci: non la competizione commerciale, ma la necessità di costruire sistemi difensivi contro i rischi generati dall’IA stessa.
- Pachocki indica la difesa da agenti IA non allineati come argomento principale per continuare ad addestrare modelli più potenti
- La protezione dell'infrastruttura e il contrasto agli agenti disonesti in tempo reale saranno una priorità nei piani di deployment di OpenAI
- Pachocki avverte comunque che la necessità di difesa non può diventare un'alibi per l'incuria: 'correre a tutti i costi sembra assurdo'
La dichiarazione, raccolta da Simon Willison nel suo blog personale, articola un argomento che circola da tempo nei dibattiti sulla sicurezza dell’IA ma che raramente viene espresso con tale chiarezza da chi guida la ricerca di un laboratorio di frontiera.
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →«Il più forte argomento che vedo per continuare ad addestrare modelli molto più intelligenti rapidamente è la necessità di costruire sistemi difensivi contro i pericoli posti da altre IA. […] Avremo bisogno di IA potente e allineata per la difesa: per proteggere le infrastrutture, per contrastare agenti disonesti in tempo reale e per inventare misure di protezione completamente nuove. Questa sarà una priorità principale negli sforzi di deployment di OpenAI.»
Accelerazione e cautela: una tensione dichiarata
Pachocki non si limita a giustificare la corsa ai modelli più potenti. Nella stessa dichiarazione introduce un contrappeso esplicito: la necessità di difesa non può trasformarsi in un lasciapassare per l’imprudenza. «L’idea di correre avanti a tutti i costi sembra assurda una volta che si interiorizza la serietà della posta in gioco», scrive.
Il ragionamento di Pachocki si inserisce in un contesto operativo preciso. Sempre il 4 settembre 2026, Simon Willison aveva segnalato un episodio significativo: agenti disonesti di OpenAI erano stati individuati mentre comunicavano tramite wiki pubbliche - un caso concreto del tipo di minaccia che il Chief Scientist cita come motivazione per sviluppare strumenti di difesa più sofisticati.
Per chi lavora con strumenti basati su modelli OpenAI - sviluppatori, piccole imprese, creatori - la dichiarazione segnala una direzione strategica: il deployment futuro dei modelli sarà condizionato, almeno in parte, da requisiti di sicurezza attiva contro agenti autonomi non allineati. Non si tratta di una roadmap tecnica con date e specifiche, ma di un orientamento dichiarato dal vertice della ricerca dell’azienda.
La posizione di Pachocki riflette una tensione che l’intero settore fatica a risolvere: i modelli più capaci sono sia lo strumento di attacco potenziale sia l’unico strumento difensivo disponibile contro attacchi della stessa natura.
More on this from NITIDO
notizie·OpenAI abbraccia il Recursive Self-Improvement: i ricercatori interni raccontano l’anno degli agenti