AIUC raccoglie 40 milioni per certificare gli agenti AI in azienda

👁 116 letture

La startup Artificial Intelligence Underwriting Company (AIUC) ha annunciato martedì un Series A da 40 milioni di dollari guidato da Ribbit Capital, con la partecipazione di First Harmonic, portando il totale dei finanziamenti a 55 milioni dopo un seed round da 15 milioni che aveva visto entrare Nat Friedman tramite il fondo NFDG, Emergence, Terrain e il co-fondatore di Anthropic Ben Mann.

AIUC è stata fondata da Rune Kvist - ex dipendente di Anthropic - e dal cognato Rajiv Dattani, già COO dell’organizzazione di ricerca sulla sicurezza AI METR dal 2024 al 2025 e tuttora membro del suo consiglio. L’idea centrale è applicare al rischio degli agenti AI un modello già consolidato nella cybersecurity: così come SOC 2 certifica i controlli sui dati aziendali, AIUC ha sviluppato uno standard proprietario chiamato AIUC-1.

Per costruire lo standard la società ha radunato un consorzio di circa 250 responsabili della sicurezza e del rischio, interpellati ogni mese su cosa cercherebbero quando acquistano agenti AI. Quel feedback alimenta una suite di circa 5.000 test che simulano scenari di jailbreak, allucinazioni e perdite di dati. Il risultato è un rapporto di circa 100 pagine che mappa dove un agente si comporta in modo affidabile e dove no. I test sono eseguiti da agenti AI, l’analisi dei dati è anch’essa automatizzata, ma la verifica finale dell’audit spetta a esseri umani, secondo quanto dichiarato da Kvist.

«Le banche, gli ospedali, i governi e le forze armate non rifiutano più di adottare l’AI perché un modello non è abbastanza intelligente. Lo rifiutano perché hanno preso impegni con i propri clienti su cosa un sistema farà e non farà, e al momento nessuno può garantirlo.»

Tra i clienti già acquisiti figurano Cursor, Lovable, Harvey ed ElevenLabs. Il lavoro di AIUC si affianca - senza sovrapporsi completamente - a quello di METR, che finora si è concentrata soprattutto sulle valutazioni di performance per i laboratori frontier.

Cosa significa in pratica. Per chi sviluppa prodotti con agenti AI o li integra in flussi aziendali, l’emergere di standard come AIUC-1 anticipa una pressione concreta: i clienti enterprise - banche, ospedali, pubblica amministrazione - inizieranno a chiedere certificazioni terze prima di firmare contratti. Avere un report di audit strutturato potrebbe diventare un requisito commerciale tanto quanto oggi lo è SOC 2 per i fornitori SaaS.

// continua a leggereMecka AI vicina a una valutazione di 500 milioni con un round guidato da SequoiaMagazineSanzioni AI Act: fino a 35 milioni di euro o 7% del fatturatoMagazineAgenti AI: cosa sono, come costruirli e dove si romponoMagazine

Kinetyra

Il link a ElevenLabs è un link di affiliazione: se acquisti tramite questo link, NITIDO riceve una commissione e tu paghi lo stesso prezzo. Non influisce sui contenuti, nemmeno sulle parti critiche.