Biaix algorítmic
El biaix algorítmic és la tendència d'un sistema a produir resultats sistemàticament injustos o desalineats per dades, etiquetes o disseny del model.
Actualitzat: 17/11/2026
Definició
El biaix algorítmic és la tendència d'un sistema a produir resultats sistemàticament injustos o desalineats per dades, etiquetes o disseny del model.
Explicació
Apareix en selecció de personal, crèdit, moderació o atenció desigual. Mitigar implica auditar dades, mètriques per grup, HITL i, de vegades, no automatitzar la decisió final. L'AI Act exige atenció especial en alt risc.
També hi ha biaix «útil» mal entès: un model esbiaixat al teu catàleg és desitjable; esbiaixat contra un col·lectiu protegit, no. Documenta supòsits.
Ship Shift aporta mesures tècniques i processos; el marc legal el tanca la teva assessoria jurídica.
Exemple en empresa
Si un rànquing de CV aprèn del passat esbiaixat de l'empresa, reproduirà aquest patró; s'audita per gènere/edat on sigui legal i es manté decisió humana final.
Termes relacionats
Com ho treballem a Ship Shift
No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Biaix algorítmic, partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Adaptació a l'AI Act o explicar-nos el cas a contacte.