Dizionario IA / RLHF
🏗️ Modelli e addestramento
RLHF
Addestramento del modello su valutazioni umane delle risposte - così diventa utile, non solo "prevede testo".
RLHF (Reinforcement Learning from Human Feedback) è una fase di addestramento in cui il modello impara da valutazioni umane: le persone confrontano diverse risposte del modello, indicano le migliori, e l'algoritmo regola il modello per generare più spesso quelle preferite. Proprio RLHF e tecniche simili hanno trasformato i grezzi "predittori di testo" in assistenti utili, che rispondono alle domande invece di continuarle, rifiutano richieste dannose e mantengono un tono educato. Il prezzo può essere che il modello diventi eccessivamente compiacente e dia ragione all'utente.
Concetti correlati