Token

Il token è l'unità base con cui opera un modello linguistico - un pezzo di testo, solitamente più corto di una parola. In inglese una parola equivale in media a poco più di un token; l'italiano, con le sue coniugazioni e accenti, può essere più "costoso" e la stessa frase può occupare più token. I token sono la valuta del mondo AI: in essi si misura la finestra di contesto, i limiti d'uso e i prezzi delle API (costo per milione di token in entrata e uscita). Quando uno strumento dice che il testo è troppo lungo - si riferisce proprio al numero di token, non ai caratteri.