Cloudflare AI Gateway: come funziona e costi dell’Auto Router

👁 113 letture

AI Gateway è il proxy inverso gratuito di Cloudflare progettato per instradare le richieste verso OpenAI, Anthropic, Google o modelli open source, offrendo in un unico pannello il monitoraggio di log, costi e limiti di utilizzo. Dal 30 settembre 2026 include la funzionalità Auto Router, capace di selezionare in autonomia un modello più economico quando il task non richiede la soluzione più costosa: nei benchmark interni di Cloudflare, il costo per operazione completata con successo è sceso da 0,0210 a 0,0084 USD. Per una panoramica completa sulla piattaforma, puoi consultare la nostra guida a Cloudflare.

A cosa serve un gateway tra la tua applicazione e il modello

Quando in azienda o all’interno di un’applicazione si integrano più modelli contemporaneamente, emergono sempre gli stessi ostacoli: chiavi API frammentate, scarsa visibilità sulle spese dei vari team e servizi che smettono di funzionare appena un fornitore va in blackout. AI Gateway si colloca nel mezzo e mette a disposizione:

• log e statistiche dettagliate: ogni singola chiamata tracciata con conteggio token, costo stimato e latenza di risposta;
• caching: una richiesta identica non genera ulteriori costi;
• rate limiting e budget di spesa: per evitare che un utente o un agente autonomo bloccato in un loop esaurisca il plafond mensile in poche ore;
• fallback automatico: se un provider non risponde, il traffico viene dirottato su un’alternativa;
• DLP (Data Loss Prevention): rilevamento di dati sensibili all’interno delle chiamate (il piano Free include due profili preconfigurati);
• chiave unificata per più provider: puoi impiegare le tue chiavi personali (BYOK) oppure affidarti al credito centralizzato di Cloudflare.

Il concetto di fondo ricorda quello di OpenRouter. La differenza chiave sta nel posizionamento: OpenRouter è prima di tutto un marketplace di modelli con fattura unificata, mentre AI Gateway funge da strato di governance e controllo compatibile anche con le tue chiavi dirette. Sulle dinamiche dei costi tramite intermediari, puoi approfondire la nostra analisi su come il prezzo su OpenRouter non è quello che paghi davvero.

Auto Router: come funziona e quanto permette di risparmiare

Invece di indicare un singolo modello nel codice, imposti cloudflare/auto. A quel punto il gateway procede in questo modo:

1. individua i modelli idonei alla richiesta (in base a formato, chiavi registrate, limiti di spesa e stato operativo del provider);
2. analizza gli ultimi messaggi del prompt tramite un classificatore leggero eseguito su GPU Cloudflare, catalogando il task in una delle 14 categorie supportate (coding, pianificazione, ricerca, analisi dati e altre) e assegnandogli un punteggio da 1 a 5 per complessità, ambiguità, criticità e dipendenza dal contesto;
3. incrocia queste variabili con i risultati dei benchmark di settore e i listini ufficiali: sui compiti basilari il costo ha un peso determinante, su quelli avanzati prevale la qualità;
4. valuta l’impatto della cache: in conversazioni lunghe, cambiare modello implica ritrasmettere l’intero contesto, perciò il router effettua lo switch solo se il risparmio netto è effettivo.

I risultati dei test di Cloudflare

Cloudflare ha testato il sistema su un dataset interno di 97 attività di ufficio tipiche (gestione email, calendario, messaggi Slack, elaborazione documenti, viaggi, finanza), eseguendo tre tentativi per ciascun modello:

In sintesi: l’Auto Router richiede il 35% della spesa di Opus e l’80% di quella di GPT-6 Sol, con un’affidabilità vicina a Sol e inferiore di circa 10 punti percentuali rispetto a Opus. Se i tuoi carichi di lavoro comprendono operazioni prevalentemente semplici (riassunti, bozze di risposta, smistamento dati), il risparmio percentuale risulterà evidente; se gestisci quasi esclusivamente prompt ad alta complessità, il router selezionerà comunque le opzioni top di gamma. Ricordiamo che questi dati provengono da misurazioni interne di Cloudflare e mancano ancora report di terze parti indipendenti. Il router è attualmente accessibile gratis durante la fase beta; si pagano solo i token fatturati dai modelli chiamati in causa.

Cloudflare ha inoltre annunciato cloudflare/auto-best, una variante pensata per puntare sempre alla massima precisione qualitativa all’interno del catalogo a disposizione, senza considerare il costo finale.

Web Search API: ricerche web integrate

Dal 2 ottobre la piattaforma integra un motore di ricerca web alimentato da tre partner: Ceramic.ai, Exa e Linkup. Le informazioni reperite online vengono iniettate direttamente nel contesto del modello, scalando l’importo dagli stessi crediti usati per le chiamate AI, applicando i listini ufficiali dei partner senza maggiorazioni da parte di Cloudflare. Un requisito interessante riguarda i crawler di questi partner: devono rispettare gli standard “Verified bots” di Cloudflare, dichiarandosi in modo trasparente e osservando le direttive del file robots.txt, garantendo sempre un link esplicito alla fonte d’origine. Una tutela importante per i publisher digitali.

Come configurare le chiamate: esempio in Python

L’infrastruttura espone un endpoint compatibile al 100% con le librerie di OpenAI, rendendo sufficiente la modifica dell’URL base nel codice esistente. Riportiamo di seguito uno schema basato sulla documentazione ufficiale di ottobre 2026. Non abbiamo eseguito lo script, poiché necessita di un account attivo con ID e token dedicati.

from openai import OpenAI

ACCOUNT_ID = "tuo_account_id"       # reperibile nella colonna destra della dashboard Cloudflare
GATEWAY_ID = "default"              # identificativo del gateway creato
CF_TOKEN   = "tuo_token_api"        # token abilitato ai permessi di AI Gateway

client = OpenAI(
    api_key=CF_TOKEN,
    base_url=f"https://gateway.ai.cloudflare.com/v1/{ACCOUNT_ID}/{GATEWAY_ID}/compat",
)

risposta = client.chat.completions.create(
    model="cloudflare/auto",        # oppure percorsi diretti come "openai/...", "anthropic/...", "workers-ai/@cf/..."
    messages=[{"role": "user", "content": "Riassumi in 3 punti: che cos'è una CDN?"}],
)
print(risposta.choices[0].message.content)

Dettagli tecnici da tenere a mente:

• Nomenclatura dei modelli: segue lo standard fornitore/modello, come ad esempio workers-ai/@cf/meta/llama-3.3-70b-instruct-fp8-fast.
• Autenticazione: gestendo le spese tramite crediti Cloudflare o salvando le chiavi nel gateway, basta il solo token Cloudflare. Se preferisci passare la chiave specifica del provider da codice, usala nel parametro api_key e invia il token Cloudflare nell’header cf-aig-authorization.
• Zero modifiche alla logica: la struttura dei payload e delle risposte rispecchia integralmente quella delle API OpenAI.

Se ti stai avvicinando adesso a queste architetture, ti consigliamo di approfondire cosa sono i token e come si calcolano, dato che determinano la composizione di ogni fattura.

Panoramica dei costi

Per chi ha senso questa configurazione: per i team di sviluppo e le aziende che spendono almeno diverse centinaia di dollari al mese in API e necessitano di tracciare con esattezza chi consuma cosa. Per chi sviluppa in solitaria o fa piccoli esperimenti, una chiave diretta con un massimale impostato sulla dashboard del provider resta spesso la via più immediata.

Aspetti da valutare con attenzione

• I dati transitano da un terzo soggetto: il gateway elabora integralmente il contenuto dei prompt. Cloudflare ha in programma filtri per escludere la conservazione dei dati (Zero Data Retention), ma nell’Auto Router questa opzione è ancora in fase di sviluppo.
• Il router agisce come una black box: nei log visualizzerai il modello scelto e la categoria attribuita, ma non puoi intervenire manualmente sui pesi dell’algoritmo di selezione.
• Pagamenti tramite protocollo x402: la modalità di pagamento al volo per singola richiesta (senza precaricare crediti) al momento del lancio è limitata ai clienti situati negli Stati Uniti.

Fonti

• Cloudflare - Auto Router (30/09/2026)
• Cloudflare - Web Search API (02/10/2026)
• Cloudflare - Listino AI Gateway
• Cloudflare - Endpoint compatibile OpenAI
• Cloudflare - Monetization Gateway e protocollo x402 (30/09/2026)

// continua a leggereRabbit lancia OS3, un agente AI che funziona senza il dispositivo R1NotizieHiggsfield API: guida completa, costi e integrazione nel 2026MagazineKling 4.0 API: dove funziona e lo stato dei providerNotizie

Kinetyra