TypeSafe AI lancia Jev, un modello che restituisce numeri invece di testo

👁 116 letture

TypeSafe AI ha presentato la settimana scorsa Jev, il primo esponente di una categoria che l’azienda chiama «System One models» - ribattezzata «decision models» da diversi osservatori del settore. A differenza di un LLM tradizionale, Jev accetta testo in ingresso ma non produce mai testo in uscita: restituisce esclusivamente numeri in virgola mobile che rappresentano probabilità, distribuzioni e punteggi.

Il modello lavora su un oggetto «state» - una stringa, un array di stringhe o un insieme di coppie nome-valore che descrive un articolo, un cliente o qualsiasi altro record strutturato. A partire da quello stato, l’API accetta un numero arbitrario di domande in una singola chiamata e le valuta tutte in parallelo: inviarne cento richiede lo stesso tempo di inviarne una.

Le domande si dividono in tre tipi. Le domande «Noul» (abbreviazione di Bernoulli, confermata dal CEO dell’azienda su Hacker News) formulano un’affermazione e restituiscono un valore tra 0 e 1 che indica quanto il modello ritenga vera quell’affermazione. Le domande a scelta multipla restituiscono sia l’opzione selezionata sia una distribuzione di probabilità sull’intero insieme di opzioni. Le domande a punteggio ricevono una scala numerica con descrizioni per ciascun livello e restituiscono un valore continuo lungo quella scala.

TypeSafe descrive Jev con queste parole:

«Think of Jev as a frontier-intelligence function call: unstructured state in, typed probabilistic decisions out.»- TypeSafe AI

Sul piano dei costi, il modello applica 0,042 dollari per milione di token in ingresso; l’output è gratuito. Il confronto diretto citato dall’azienda è con GPT-5 Nano di OpenAI, che si ferma a 0,05 dollari per milione di token.

Classificazione rapida, ma nessuna spiegazione

Gli scenari d’uso più naturali sono quelli riducibili a compiti di classificazione: rilevamento di spam, assegnazione automatica di etichette, prioritizzazione e ranking. Un caso concreto già in uso è il reranking nei motori di ricerca: si recuperano 100 candidati con un algoritmo leggero come BM25, poi Jev assegna a ciascuno un punteggio di pertinenza rispetto alla query originale.

Il limite strutturale del modello è però evidente: Jev non fornisce alcuna motivazione per i valori che restituisce. Se classifica un testo come spam, non è possibile sapere quali segnali abbiano determinato il risultato. Questa opacità - già presente negli LLM tradizionali, ma almeno parzialmente aggirabile chiedendo una spiegazione - qui è totale per costruzione, il che rende particolarmente delicato l’uso in contesti sensibili come la valutazione di candidature o la moderazione di contenuti.

// continua a leggereTypeSafe AI lancia Jev, un modello senza testo che restituisce probabilità invece di paroleBenchmarkIl gap tra modelli AI chiusi e open pesa solo 4,4 mesi e 5 volte il costoBenchmarkAI senza censura? 9 modelli messi alla prova con 16 domandeBenchmark

Kinetyra