Ship Shift · Glosario

Guardrails

Els guardrails són controls (filtres, polítiques, validacions i límits d'eines) que redueixen respostes perilloses o accions no autoritzades d'un sistema d'IA.

Actualitzat: 17/11/2026

Consultoría de IA aplicada

Definició

Els guardrails són controls (filtres, polítiques, validacions i límits d'eines) que redueixen respostes perilloses o accions no autoritzades d'un sistema d'IA.

Explicació

Inclouen llistes de temes prohibits, validació de JSON de sortida, denegació d'eines (no esborrar clients), límits d'import i detecció de dades personals. No substitueixen l'AI Act ni l'RGPD, però són la capa tècnica que fa complible la política.

Han de ser observables: log de bloquejos, motius i falsos positius. Un guardrail massa agressiu frustra; un de laxe no protegeix. S'ajusten amb evals i amb incidents reals.

En agents, el guardrail més important sol ser «no escriure en producció sense llindar o sense humà».

Exemple en empresa

Un chatbot de RRHH pot explicar la política de vacances publicada, però un guardrail bloqueja inventar imports de nòmina o accedir a dades de companys sense autenticació.

Termes relacionats

Com ho treballem a Ship Shift

No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Guardrails, partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Adaptació a l'AI Act o explicar-nos el cas a contacte.

Adaptació a l'AI Act · ← Tornar al glossari A–Z