Dizionario IA / Alignment

🏗️ Modelli e addestramento

Alignment (allineamento) è il termine collettivo per gli sforzi volti a far sì che obiettivi e comportamenti dell'AI siano conformi alle intenzioni e ai valori umani - che il modello sia utile, onesto e innocuo, anche in situazioni che i creatori non hanno previsto. In pratica è una combinazione di tecniche di addestramento (come RLHF), protezioni e test di robustezza. Nel dibattito sul futuro dell'AI, alignment significa anche una questione più ampia: come garantire che sistemi sempre più potenti facciano ciò che vogliamo davvero - e non ciò che ordina letteralmente un obiettivo mal formulato.