Strands Decider 2B di AWS: modello decisionale open source

👁 113 letture

Strands Decider 2B è un modello decisionale open source di AWS: invece di scrivere testo libero, seleziona una risposta da un elenco fornito e restituisce il livello di confidenza. Ha 2 miliardi di parametri, licenza Apache-2.0 e AWS ha reso pubblici non solo i pesi, ma anche i dati di addestramento e gli script. L’ho eseguito su una RTX 4090: ha occupato 3,8 GB di memoria grafica e ha instradato richieste di assistenza (testate in lingua polacca) verso i reparti corretti senza errori in 135 ms. Per un quadro più ampio e il confronto con Cloudflare Clef puoi consultare la guida ai modelli decisionali IA.

Che cos’è Strands Decider 2B

Il modello è stato rilasciato il 1° ottobre 2026 dal team Strands Labs di AWS (autori del post: Marc Brooker, Mike Chambers e Fabio Nonato de Paula). Il nome deriva da Strands Agents, il framework open source di AWS per la creazione di agenti. I punti chiave:

• Base: Qwen3.5-2B-Base. AWS ha rimosso la testa linguistica tradizionale, sostituendola con una testa di puntamento (pointer head) da poco più di un milione di parametri che valuta lo stato nascosto nella posizione di ciascuna opzione.
• Fine-tuning: adapter LoRA di rango 16. Su Hugging Face è disponibile il checkpoint StrandsAgents/strands-decider-2B-hobson-v19: l’adapter pesa 67 MB, mentre il modello base viene scaricato in automatico al primo avvio (nel mio caso circa 4,3 GB).
• Licenza: Apache-2.0 per modello, codice e ricetta di addestramento; anche la base Qwen3.5-2B-Base è sotto Apache-2.0.
• Accessibilità: nel repository strands-labs/strands-decider si trovano gli script di addestramento, l’elenco di 29 dataset pubblici (tra cui BANKING77, CLINC, AG News, HotpotQA) e i risultati grezzi di valutazione.
• Installazione: con pip install strands-decider ottieni sia il comando da terminale sia un server HTTP.
• API: compatibile con il formato System One, lo stesso impiegato da Jev di TypeSafe, Cloudflare Clef e Kev.

Come formulare le query

Come ogni modello decisionale, Strands Decider riceve uno stato e domande denominate appartenenti a tre tipologie:

Il numero di opzioni non ha limiti rigidi, poiché le etichette vengono passate nella richiesta e non sono codificate a priori nel modello. La risposta viene calcolata con un singolo passaggio nella rete, senza loop di generazione autoregressiva. Lo stato viene calcolato una volta sola e le domande vengono elaborate su una copia della sua cache, perciò aggiungere una domanda supplementare non influisce quasi per nulla sul tempo totale.

I benchmark ufficiali secondo AWS

• JevBench (231 compiti pubblici): 167 risposte esatte, pari al 72,3%. AWS segnala che si tratta del 3° posto su 33 modelli nella categoria 2B, e del 1° su 30 escludendo i modelli leggermente più grandi di 2B.
• Compiti semplici su JevBench: 100% di accuratezza.
• Latenza: mediana di circa 115 ms su RTX 3090, circa 153 ms su MacBook con M3.
• Dataset interni: da 64,1% (compiti brevi, 6.000 esempi) a 89,8% (riconoscimento di domande senza risposta su MuSiQue).

AWS indica con chiarezza i limiti del sistema. Il modello è marcatamente inferiore ai modelli di ragionamento nei problemi complessi; non è concepito per generare codice, conversare via chat o produrre riassunti. La scheda del modello avverte inoltre che “legge la domanda peggio del documento”: a parità di stato e opzioni, cambiare la formulazione del quesito spesso non modifica la decisione, rendendo necessaria una formulazione priva di ambiguità.

Il test su ticket di supporto

Abbiamo preparato un set di 30 ticket di assistenza tipici di un e-commerce o di un’applicazione (abbiamo effettuato il test originale su testi in lingua polacca): 5 per ciascun reparto (pagamenti, spedizioni, resi, account, guasti tecnici, vendite), alcuni privi di caratteri speciali e con refusi. Per ciascuno sono state poste due domande: il reparto di competenza e l’eventuale necessità di gestire la richiesta in giornata. Hardware impiegato: RTX 4090, Windows 11, PyTorch 2.11.

• Memoria: picco di 3,8 GB di VRAM, tempo di caricamento del modello pari a 16 secondi.
• Classificazione del reparto: nessun errore sul testo in polacco. L’unico errore riscontrato nella variante in inglese ha riguardato un cambio di piano durante il periodo di fatturazione, classificato come pagamento anziché vendita (un caso limite che ha tratto in inganno la maggior parte dei modelli testati).
• Urgenza: qui è emerso un limite di calibrazione. La probabilità di “sì” per i 6 ticket realmente urgenti oscillava tra 0,22 e 0,47: nessuno ha superato 0,5, quindi con la soglia predefinita il sistema non ne ha contrassegnato alcuno come prioritario. L’ordinamento relativo era comunque coerente: abbassando la soglia a 0,4 l’accuratezza è salita a 26/30.
• Confidenza sul reparto: mediana di 0,86, valore minimo 0,31. Per confronto, il più grande Clef-flash ha fatto registrare una mediana di 0,97.

Sulla medesima scheda grafica, Gemma 4 12B tramite Ollama con output JSON forzato ha ottenuto a sua volta 30/30, ma con un tempo di 413 ms, mentre Llama 3.1 8B ha impiegato 173 ms totalizzando 25/30. Il confronto completo su otto architetture è disponibile nella guida ai modelli decisionali.

Strands Decider rispetto a Cloudflare Clef

Strands Decider è la soluzione ideale se intendi eseguire l’elaborazione su un portatile, su un server privo di GPU di fascia alta o direttamente su CPU, potendo contare sull’addestramento personalizzato secondo la ricetta aperta. Clef-flash conviene invece se disponi di una GPU da 24 GB o se preferisci un’infrastruttura gestita con supporto multimodale per le immagini. Trovi tutti i dettagli sull’annuncio di Clef nel nostro articolo dedicato.

Come provarlo in 3 passaggi

1. Installa PyTorch (con supporto CUDA se utilizzi una scheda NVIDIA), quindi esegui pip install strands-decider. La libreria richiede transformers 5.15 o versioni successive.
2. Esegui una query da riga di comando (qui tradotta a titolo dimostrativo dal prompt originale testato in polacco):

   strands-decider ask StrandsAgents/strands-decider-2B-hobson-v19 
     --state "Il corriere ha lasciato il pacco davanti alla porta del vicino e ora non c'e piu" 
     --choice "Quale reparto?=pagamenti,spedizione,resi,account" 
     --noul "Il cliente e irritato?"

3. Avvia il server: strands-decider serve StrandsAgents/strands-decider-2B-hobson-v19 --port 8000 e invia le richieste all’endpoint /v1/systemone.

Su ambienti Windows la libreria transformers potrebbe segnalare l’assenza dei pacchetti flash-linear-attention e causal-conv1d. L’architettura funziona comunque anche senza di essi (i 135 ms misurati nel nostro test si riferiscono proprio a questa configurazione), semplicemente con prestazioni inferiori al massimo teorico. Il demone HTTP resta in ascolto solo su 127.0.0.1 e non include meccanismi di autenticazione: prima di esporlo in rete è indispensabile configurare un reverse proxy con opportuni controlli di sicurezza.

Fonti

• Strands Agents: Introducing Strands Decider 2B (1/10/2026)
• Scheda del modello su Hugging Face
• Repository su GitHub
• Test hardware: 5/10/2026, RTX 4090.

Domande frequenti

Quanta memoria VRAM richiede Strands Decider 2B e quanto è veloce?

Il modello occupa 3,8 GB di VRAM sulla scheda video. Nel nostro test su RTX 4090 la mediana del tempo di elaborazione su ticket di assistenza è stata di 135 ms; in base alle rilevazioni fornite da AWS, la latenza mediana si attesta a circa 115 ms su RTX 3090 e a circa 153 ms su MacBook con processore Apple Silicon M3.

Con quale licenza viene rilasciato Strands Decider 2B e cosa include la release di AWS?

L’intero progetto è distribuito sotto licenza open source Apache-2.0, che si applica ai pesi, al codice e alla procedura di fine-tuning. AWS ha pubblicato sia i checkpoint sia gli script di addestramento, l’elenco di 29 dataset aperti e i punteggi grezzi dei benchmark all’interno del repository GitHub strands-labs/strands-decider.

Quale accuratezza ha registrato Strands Decider 2B nella classificazione dei ticket?

Nel benchmark su 30 ticket suddivisi in 6 categorie (testati su testi in polacco), il modello ha centrato l’assegnazione del reparto con un punteggio perfetto di 30 su 30. La stima dell’urgenza ha invece evidenziato problemi di calibrazione: con la soglia standard di 0,5 nessun ticket è stato etichettato come urgente, ma riducendo il valore di soglia a 0,4 il risultato è salito a 26 su 30.

// continua a leggereRouting ticket con AI: modello Strands Decider 2B in PythonGuideMAGI-2 Preview: il modello video open source di Sand.aiStrumenti IAModelli video open source 2026: MAGI-2, Wan, LTX e MiniMax H3Benchmark

Kinetyra