Dizionario IA / Guardrails

🛡️ Sicurezza e qualità

I guardrails (barriere) sono protezioni che limitano il comportamento del modello: un insieme di regole, filtri e tecniche di addestramento che mirano a prevenire contenuti dannosi, illegali o semplicemente non conformi allo scopo dell'applicazione. È grazie a loro che il modello rifiuta di scrivere istruzioni per uno scasso o consigli su come fare del male a qualcuno. Le barriere operano su più livelli: nell'addestramento (il modello impara a rifiutare), nei prompt di sistema e nei filtri esterni che controllano input e output. La loro calibrazione è un eterno compromesso - troppo permissive lasciano passare danni, troppo rigide rifiutano richieste innocenti.