› Quando il ricercatore AI Jacob Coxon ha lasciato Anthropic dopo appena quattro mesi di lavoro, ha scritto su X qualcosa che ha scatenato una tempesta nel settore: "Le persone che costruiscono AI credono davvero che possa ucciderci tutti prima della fine del decennio." Non era un commento anonimo su Twitter.
› Era la dichiarazione di dimissioni di un senior di una delle aziende AI più prestigiose al mondo.Ancora più significativo: Evan Hubinger, senior researcher di Anthropic, ha pubblicamente dato ragione a Coxon e ha aggiunto che personalmente stima la probabilità di tale scenario nei prossimi dieci anni a oltre il 10%.
› Non è un livello di rischio con cui normalmente si costruisce e si implementa globalmente una tecnologia.Il problema del cane e della bomba termonucleareIl professor Toby Walsh dell'Università del New South Wales, uno dei principali ricercatori di AI, ha deciso di affrontare il tema analiticamente e ha catalogato cinque scenari in cui un'AI superintelligente potrebbe portare alla fine della nostra civiltà.
› Li ha ordinati dai più nebulosi ai più concreti - e allo stesso tempo, sostiene, dai meno ai più probabili.Il primo scenario Walsh lo chiama semplicemente "non lo sapremo mai".