› La startup Goodfire ha lanciato un nuovo tipo di monitoraggio per agenti AI: invece di rileggere tutto cio che l'agente scrive ed esegue, guarda direttamente all'interno della sua elaborazione.
› Il sistema e disponibile per gli utenti della piattaforma Baseten e, stando ai test dell'azienda, abbatte i costi di svariate volte rispetto all'approccio tradizionale, mantenendo un'efficacia analoga.Il problema: usare una seconda AI come guardia costa troppoLo standard attuale per la sicurezza degli agenti AI e concettualmente semplice ma molto oneroso: si attiva un secondo modello incaricato di leggere ogni singola azione del primo - tutto cio che l'agente scrive, riceve ed elabora.
› Quando un agente lavora per ore macinando un volume di testo paragonabile a interi romanzi, la spesa per la supervisione decolla rapidamente.
› Nei test condotti da Goodfire sul modello Kimi K3 su un campione di circa 1500 sessioni, il monitoraggio effettuato tramite un modello-guardia economico e costato 233 dollari.