Parametr

I parametri sono numeri che il modello regola durante l'addestramento - puoi pensarli come milioni di minuscole manopole, la cui impostazione determina il comportamento della rete. La dimensione del modello si indica proprio in parametri: miliardi (B) sono oggi lo standard, e i modelli più grandi ne hanno centinaia di miliardi. Più parametri di solito significa maggiori capacità, ma anche costi operativi più alti e risposte più lente. Per questo, accanto ai giganti, si sviluppano modelli piccoli e specializzati che, con una frazione delle dimensioni, raggiungono risultati sorprendentemente buoni in compiti specifici.