TypeSafe AI lancia Jev, un modello senza testo che restituisce probabilità invece di parole

👁 115 letture

TypeSafe AI ha rilasciato questa settimana Jev, un modello transformer che non genera testo ma produce probabilità - dette dall’azienda “decisioni calibrate” - con token di output gratuiti e input fatturato al miliardo di token anziché al milione. Il modello è stato fondato da Diogo Almeida, ex ricercatore di OpenAI che ha contribuito a costruire ChatGPT e a sviluppare il reinforcement learning from human feedback (RLHF).

La motivazione dichiarata da Almeida è diretta:

“Siamo stati super bravi con il linguaggio umano per quattro anni, ma non è utile per l’automazione perché i computer parlano un linguaggio diverso.”

Poiché gli output sono definiti dall’utente in anticipo, il modello non può allucinare per costruzione. Il lancio ha generato una domanda così alta da mandare in crisi temporanea le API dell’azienda.

I primi test pratici mostrano numeri concreti. Pranit Sharma, software engineer di Vercel, ha riferito che sostituire il modello OpenAI usato come classificatore di sicurezza con Jev ha prodotto risultati da 5 a 18 volte più veloci con maggiore accuratezza. Nikhil Mudholkar, CTO di Bryo AI, ha confrontato Jev con Gemini sulla classificazione di email aziendali: Gemini era leggermente più accurato, ma da 10 a 20 volte più costoso. Mudholkar ha sottolineato i confidence score di Jev come elemento distintivo per l’automazione dei workflow.

Armin Ronacher, CTO di Earendil - che sviluppa l’harness open-source Pi - osserva che il modello sposta parte della responsabilità sulle allucinazioni all’utente: chi riceve un risultato al 50% sa che è un coin toss, chi riceve il 95% può agire. Ronacher vede in Jev anche un candidato per il model routing: decidere in tempo reale quale modello usare per un dato task è costoso con un LLM, economico con Jev.

Cosa cambia nella pratica. Per chi costruisce pipeline di automazione o agenti, Jev offre un’alternativa concreta agli LLM nei task di classificazione e routing dove il testo in output è superfluo. Il costo ridotto e la velocità lo rendono praticabile anche come strato di guardia su agenti LLM esistenti - ad esempio per rilevare jailbreak o comportamenti anomali - senza moltiplicare la spesa. Il dettaglio tecnico completo è disponibile nell’annuncio originale.

// continua a leggereTypeSafe AI lancia Jev, un modello che restituisce numeri invece di testoBenchmarkConfronto Suno v6: tre varianti senza metriche pubblicheBenchmarkCOPEX: come si manipolano i modelli linguistici nei sistemi MCPBenchmark

Kinetyra