Guardrails
Els guardrails són controls (filtres, polítiques, validacions i límits d'eines) que redueixen respostes perilloses o accions no autoritzades d'un sistema d'IA.
Actualitzat: 17/11/2026
Definició
Els guardrails són controls (filtres, polítiques, validacions i límits d'eines) que redueixen respostes perilloses o accions no autoritzades d'un sistema d'IA.
Explicació
Inclouen llistes de temes prohibits, validació de JSON de sortida, denegació d'eines (no esborrar clients), límits d'import i detecció de dades personals. No substitueixen l'AI Act ni l'RGPD, però són la capa tècnica que fa complible la política.
Han de ser observables: log de bloquejos, motius i falsos positius. Un guardrail massa agressiu frustra; un de laxe no protegeix. S'ajusten amb evals i amb incidents reals.
En agents, el guardrail més important sol ser «no escriure en producció sense llindar o sense humà».
Exemple en empresa
Un chatbot de RRHH pot explicar la política de vacances publicada, però un guardrail bloqueja inventar imports de nòmina o accedir a dades de companys sense autenticació.
Termes relacionats
Com ho treballem a Ship Shift
No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Guardrails, partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Adaptació a l'AI Act o explicar-nos el cas a contacte.