Modelli decisionali e piccoli LLM: costi, tempi e accuratezza

👁 114 letture

Nel Decision Index, i modelli decisionali rispondono da 3 a oltre 20 volte più velocemente dei piccoli modelli linguistici, ma Claude Haiku 5.5 (low) ottiene un punteggio complessivo superiore a tutti. Per i costi non c’è una regola semplice: dipendono dal modello e dal numero di token in uscita che paghi per un LLM. Qui trovi a confronto le misurazioni di Artificial Analysis, i prezzi API e un calcolo esplicito basato sui token.

Dati aggiornati al 13.10.2026. Qui «piccoli modelli linguistici» indica le varianti più economiche offerte dai produttori (Haiku, Luna, Flash, Gemma), non modelli di cui sia stato verificato il numero di parametri. Per capire cosa sia un modello decisionale e chi abbia vinto la classifica, leggi la guida ai modelli decisionali AI. Un calcolo dei risparmi per un milione di classificazioni e un calcolatore per le architetture a cascata sono disponibili nella guida Un modello decisionale al posto di un LLM. Qui mi concentro sul confronto tra piccoli LLM e modelli decisionali.

Prima di tutto, confronta la stessa attività

Un modello decisionale restituisce una scelta e la probabilità associata a ciascuna opzione. Nel Decision Index, un normale modello linguistico riceve le stesse attività, ma deve rispondere in un formato JSON vincolato. In questo modo i due tipi di modello affrontano le stesse domande, anche se producono la risposta in modo diverso (metodologia AA).

Non confrontare quindi il Decision Index di un modello con l’Intelligence Index di un altro: sono scale diverse, anche se compaiono entrambe sul sito di Artificial Analysis. Controlla anche la variante indicata accanto al nome dell’LLM: per AA, Haiku 5.5 nelle versioni low, medium, high, xhigh e max occupa cinque righe diverse, con punteggi, costi e tempi distinti.

Un’altra distinzione importante: classificare correttamente non equivale a rispondere al cliente. Se nel tuo processo dopo la decisione serve una motivazione o un messaggio, devi aggiungere la fase di generazione del testo. Confrontare un classificatore da solo con una risposta testuale completa significa misurare cose diverse.

Punteggio, costo e tempi secondo AA

Fonte: classifica Decision Index di AA in tempo reale, consultata il 13.10.2026, con il confronto tra modelli linguistici attivato. Sono inclusi tutti gli 11 modelli decisionali della classifica e alcuni piccoli LLM. Il valore migliore in ogni colonna è in grassetto. La riga di Gemini indica un dato mancante, non un risultato pari a zero.

AA calcola il costo a partire dal consumo di token e dai prezzi correnti, poi converte il costo medio per attività in una stima per un milione di attività. I modelli decisionali pagano solo l’input, mentre gli LLM pagano input e output. Il tempo è la mediana delle attività dell’indice. Il costo non è quindi un prezzo per «un milione di decisioni qualsiasi», ma un calcolo basato su uno specifico insieme di domande.

Cosa emerge dalla tabella:

• Haiku 5.5 (low) ha il punteggio più alto: supera Jev di 3,1 punti, ma secondo AA è circa 11 volte più lento e 4,4 volte più costoso.
• La categoria non garantisce un prezzo inferiore: Clef costa più di Haiku 5.5 (low) e GPT-6 Luna (low), pur rispondendo più rapidamente. Clef-Omni costa più di Luna nella variante non-reasoning.
• Un LLM più grande non è necessariamente migliore nelle decisioni: Gemma 4 31B con reasoning è il modello più costoso e lento del confronto, ma supera Luna (low) di poco nel punteggio.
• Le opzioni più economiche: secondo AA, Decider v1.1 27B, Microsoft-Decision-1 e Jev 1.13 si trovano sulla frontiera di efficienza, cioè offrono il miglior punteggio a un dato prezzo.

L’accuratezza dipende dal tipo di decisione

Il punteggio più alto dell’indice non significa che un modello prevalga in ogni singola componente. Secondo l’analisi di AA, gli LLM sono più forti nelle prove di conoscenza; i migliori modelli decisionali li raggiungono o li superano nella classificazione di sicurezza e nelle decisioni sull’uso degli strumenti.

Fonti dei dati, consultate il 13.10.2026: grafici AA per AA-Omniscience-Decision, HLE-MultiChoice, When2Call e WildGuardTest. L’ultima colonna riunisce i migliori risultati di modelli diversi: non descrive un unico sistema. Ho spiegato come è costruito l’indice e cosa misura ciascun test nella notizia sulla classifica Decision Index.

In pratica, se l’attività consiste nell’assegnare un messaggio a una categoria ben definita o nello scegliere il passaggio successivo di un agente, un modello decisionale è un candidato serio. Se invece la decisione richiede conoscenze che non compaiono nella richiesta, un piccolo LLM ha un vantaggio evidente. È un’indicazione per scegliere i dati di prova, non una promessa di risultati identici nella tua azienda.

Prezzi API: tabella e unità di misura separate

Fonti dei prezzi, consultate il 13.10.2026: Anthropic, OpenAI, Google, Cloudflare; i prezzi dei modelli decisionali sono quelli dei produttori, raccolti nella guida. Le tariffe di Haiku e Luna corrispondono a quelle che OpenRouter mi ha addebitato per le richieste del test del 13.10. Le cifre non includono cache, sconti per elaborazioni batch o eventuali maggiorazioni per l’elaborazione nell’UE.

Attenzione a Gemini 3.8 Flash: Google indica tariffe di 0,75 USD e 3,75 USD valide fino alla fine del 2026; prima di fare calcoli per l’anno successivo, verifica il listino aggiornato. Per tutti gli LLM, controlla anche che il tuo input non superi la soglia del contesto lungo, oltre la quale si applicano tariffe diverse.

Quanto costa un milione di attività, con ipotesi esplicite

È uno scenario, non un benchmark. Ipotizzo un milione di chiamate da 1000 token di input conteggiati ciascuna. Per gli LLM confronto 50 e 500 token di output conteggiati per attività, includendo il reasoning a pagamento. È un consumo ipotizzato, non una previsione della lunghezza delle risposte di un modello specifico.

Costo di 1 milione di attività in EUR =
token di input per attività * prezzo per 1 milione di token di input
+ token di output per attività * prezzo per 1 milione di token di output

Haiku, variante con 50 token di output:
1000 * 0,08933 + 50 * 0,44663 ≈ 111,66 EUR

Calcoli effettuati sulla base dei listini del 13.10.2026. I modelli decisionali non generano testo, quindi il loro costo non dipende dal budget di output. Il grassetto indica il costo più basso nello scenario, non il vincitore per qualità.

• Con un output breve, Haiku e Luna costano meno di Clef in Workers AI; con un output più lungo, il rapporto si inverte.
• In questo calcolo, Gemini 3.8 Flash costa 7,5 volte più di Haiku e Luna, con entrambi i budget di output.
• Se i token di output aggiuntivi servono per una motivazione, un modello decisionale non può sostituirla: usare un secondo modello per generare testo aggiunge un’altra chiamata da conteggiare.

Usare 1000 token per tutti è una semplificazione: tokenizzatori diversi contano lo stesso testo in modo diverso. Nel mio test, una segnalazione in polacco con le relative domande occupava da circa 205 token in Mercury Decide a circa 650 in Jev; Haiku riceveva in media 782 token di input, tra istruzioni e schema JSON. Per un confronto reale, quindi, registra il consumo riportato dall’API invece di stimarlo dalla lunghezza del messaggio.

Latenza: il tempo necessario per ottenere una decisione completa

Nella classificazione conta il momento in cui l’applicazione può eseguire il passaggio successivo. Il primo carattere di un JSON appena iniziato non è ancora una decisione: il tempo al primo token e la velocità di generazione non sostituiscono la misurazione della risposta completa.

Il mio test del 13.10.2026, con richieste inviate dalla Polonia tramite OpenRouter e quindi soggette anche alla latenza di rete, conferma la tendenza osservata da AA:

• Modelli decisionali: mediana da 310 a 619 ms (il più rapido è Clef-Omni, il più lento Mercury Decide).
• GPT-6 Luna (low): 1371 ms.
• Claude Haiku 5.5 (low): 1689 ms.
• Gemini 3.8 Flash: in un test API separato del 5.10.2026, la mediana è stata di 1822 ms su 30 segnalazioni in polacco (reparto corretto in 30/30 casi, urgenza corretta in 26/30). Il campione e il giorno erano diversi, quindi non aggiungo questo dato alla tabella AA.

La mediana descrive il centro della distribuzione, non le risposte più lente che fanno aspettare chi usa il servizio. Nel tuo test registra anche la coda della distribuzione, gli errori e i tentativi ripetuti. Nella guida ai costi ho calcolato quante ore servono per elaborare un milione di decisioni una dopo l’altra e cosa cambia con i limiti di richieste.

Accuratezza in polacco: il piccolo LLM resta leggermente avanti

Su 47 segnalazioni in polacco con una classificazione non ambigua, i modelli decisionali hanno assegnato il reparto corretto in 41-44 casi; Claude Haiku 5.5 (low) e GPT-6 Luna (low) in 45. Con un campione così piccolo, una differenza di uno-tre casi è vicina al rumore, ma il risultato è coerente con AA: nella classificazione semplice, i piccoli LLM hanno un lieve vantaggio, a fronte di tempi e costi maggiori. I risultati completi di tutti gli 11 modelli sono nella guida.

Quale variante scegliere

• Modello decisionale: quando il risultato è un’etichetta o una scelta operativa e le decisioni sono migliaia. Metti alla prova i candidati sugli stessi esempi e usa le probabilità per indirizzare altrove i casi incerti.
• Claude Haiku 5.5: quando la decisione deve essere accompagnata da testo o richiede conoscenze che non compaiono nella richiesta. La variante low ha il punteggio più alto di questo confronto, ma impiega oltre 10 volte più dei modelli decisionali più rapidi.
• GPT-6 Luna: ha l’accuratezza più alta nelle domande di conoscenza tra le varianti confrontate (66,0), ma in questo test non sceglie praticamente mai «non lo so» (0,0), quindi tende a indovinare più spesso. Considera separatamente le righe low, non-reasoning e Decisions: hanno punteggi, costi e tempi diversi.
• Gemini 3.8 Flash: ha bisogno di un test comparabile dedicato. Il listino permette di calcolare uno scenario di costo, ma non colma l’assenza di un risultato nel Decision Index.

Domande frequenti

Un modello decisionale costa sempre meno di un piccolo LLM?

No. Nella misurazione AA, Clef costa circa 178,12 € (199,4 USD) per un milione di attività, più di Claude Haiku 5.5 (low) e GPT-6 Luna (low). Contano il modello specifico, la lunghezza dell’input e l’output a pagamento.

Un milione di token equivale a un milione di attività?

No. Una singola attività può consumare da alcune centinaia a diverse migliaia di token. Il costo di un milione di attività si ottiene moltiplicando il prezzo per token per il consumo misurato o ipotizzato in modo esplicito.

Gemini 3.8 Flash ha perso nel Decision Index?

Non ci sono elementi per concluderlo. Il 13.10.2026 Gemini 3.8 Flash non aveva un punteggio nell’indice. Una misurazione mancante non equivale a una sconfitta.

GPT-6 Luna e GPT-6 Luna Decisions hanno lo stesso risultato?

No. AA presenta separatamente il modello linguistico (low: 55,2 punti; non-reasoning: 49,6) e la variante Decisions (48,5 punti). Ognuno ha costi e tempi propri.

Il punteggio dell’indice è la percentuale di decisioni corrette?

No. È una combinazione di quattro metriche diverse. Per un caso d’uso specifico, scegli la componente pertinente e prova il modello su dati rappresentativi.

Dichiarazione: conosco Jev da una precedente esplorazione del servizio: a settembre ho scritto un semplice client API per usarlo con alcuni strumenti editoriali personali. TypeSafe non ha commissionato né pagato questo articolo. La valutazione si basa sulle misurazioni indipendenti di Artificial Analysis e sul mio test, nel quale tutti i modelli hanno ricevuto le stesse attività.

Test personali: 13.10.2026 (50 segnalazioni in polacco, 11 modelli tramite OpenRouter dalla Polonia) e 5.10.2026 (30 segnalazioni in polacco, compreso Gemini 3.8 Flash tramite API).

Gli importi in euro sono stime convertite dai prezzi ufficiali in USD, non prezzi di acquisto locali. Conversione basata sul tasso di riferimento BCE del 14.10.2026: 1 EUR = 1,1195 USD. Fonte: BCE.

// continua a leggereEleven Music: test con testo in italiano, costi e tempiMagazineDecision Index di Artificial Analysis: Jev 1.13 in testaBenchmarkTest 11 modelli AI: GPT-6 Astra vince, ma il test sbagliavaBenchmark

Kinetyra