Dizionario IA / LoRA

🏗️ Modelli e addestramento

LoRA (Low-Rank Adaptation) è una tecnica economica di fine-tuning: invece di modificare miliardi di parametri del modello, si addestra un piccolo "adattatore" che ne cambia il comportamento. Il risultato pesa megabyte invece di gigabyte e si addestra su una singola scheda grafica. LoRA ha fatto furore soprattutto nella generazione di immagini - la community crea migliaia di adattatori che insegnano al modello uno stile, personaggio o prodotto specifico. Nei modelli linguistici è un modo popolare per adattare economicamente un modello aperto alle proprie esigenze.