Ship Shift · Glosario

Biaix algorítmic

El biaix algorítmic és la tendència d'un sistema a produir resultats sistemàticament injustos o desalineats per dades, etiquetes o disseny del model.

Actualitzat: 17/11/2026

Consultoría de IA aplicada

Definició

El biaix algorítmic és la tendència d'un sistema a produir resultats sistemàticament injustos o desalineats per dades, etiquetes o disseny del model.

Explicació

Apareix en selecció de personal, crèdit, moderació o atenció desigual. Mitigar implica auditar dades, mètriques per grup, HITL i, de vegades, no automatitzar la decisió final. L'AI Act exige atenció especial en alt risc.

També hi ha biaix «útil» mal entès: un model esbiaixat al teu catàleg és desitjable; esbiaixat contra un col·lectiu protegit, no. Documenta supòsits.

Ship Shift aporta mesures tècniques i processos; el marc legal el tanca la teva assessoria jurídica.

Exemple en empresa

Si un rànquing de CV aprèn del passat esbiaixat de l'empresa, reproduirà aquest patró; s'audita per gènere/edat on sigui legal i es manté decisió humana final.

Termes relacionats

Com ho treballem a Ship Shift

No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Biaix algorítmic, partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Adaptació a l'AI Act o explicar-nos el cas a contacte.

Adaptació a l'AI Act · ← Tornar al glossari A–Z