US Military Almost Boarded Chinese Ship Based on AI Hallucination
Gli Stati Uniti hanno sfiorato un incidente militare con la Cina dopo che un analista dello US Special Operations Command ha prodotto un rapporto di intelligence completamente falso generato con l'aiuto di un chatbot.
👁 115 letture
Gli Stati Uniti hanno quasi intercettato e abbordato una nave cinese nel Medio Oriente basandosi su un rapporto di intelligence «interamente falso», generato con l’aiuto di strumenti AI, secondo quanto riportato da CNN e ripreso da Ars Technica. Il documento, prodotto da un analista dello US Special Operations Command, sosteneva che la nave stesse trasportando componenti del programma nucleare cinese.
- Un analista del US Special Operations Command ha usato un chatbot per analizzare il manifesto di una nave cinese, ottenendo un rapporto errato che segnalava trasporto di componenti nucleari
- Il sistema militare stava preparando l'intercettazione con supporto aereo prima che i funzionari scoprissero l'errore del chatbot
- Una fonte ha dichiarato a CNN che l'episodio «almost started a war»
Il chatbot impiegato nell’analisi aveva «fuso insieme intelligence open-source e segnali segreti classificati», confezionando un rapporto che ha quasi innescato una catena di eventi disastrosa. Il militare stava predisponendo l’intercettazione con supporto aereo quando i funzionari hanno scoperto che il sistema aveva «identificato in modo impreciso il materiale trasportato dalla nave». Una fonte ha detto a CNN che la vicenda «almost started a war».
L’episodio emerge in un contesto in cui il Dipartimento della Difesa ha accelerato l’adozione dell’AI: a gennaio ha lanciato una strategia di «accelerazione AI», a dicembre 2024 ha adottato Gemini for Government come base della piattaforma GenAI.mil, e il mese scorso ha aggiunto Grok for Government alla stessa piattaforma. In giugno, un rappresentante del Pentagono ha riferito al Congresso che 1,5 milioni di personale DoD attivo utilizza strumenti di AI generativa.
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →
More on this from NITIDO
