Ship Shift · Glosario

Sesgo algorítmico

El sesgo algorítmico es la tendencia de un sistema a producir resultados sistemáticamente injustos o desalineados por datos, etiquetas o diseño del modelo.

Actualizado: 17/11/2026

Consultoría de IA aplicada

Definición

El sesgo algorítmico es la tendencia de un sistema a producir resultados sistemáticamente injustos o desalineados por datos, etiquetas o diseño del modelo.

Explicación

Aparece en selección de personal, crédito, moderación o atención desigual. Mitigar implica auditar datos, métricas por grupo, HITL y, a veces, no automatizar la decisión final. El AI Act exige atención especial en alto riesgo.

También hay sesgo «útil» mal entendido: un modelo sesgado a tu catálogo es deseable; sesgado contra un colectivo protegido, no. Documenta supuestos.

Ship Shift aporta medidas técnicas y procesos; el marco legal lo cierra tu asesoría jurídica.

Ejemplo en empresa

Si un ranking de CVs aprende del pasado sesgado de la empresa, reproducirá ese patrón; se audita por género/edad donde sea legal y se mantiene decisión humana final.

Términos relacionados

Cómo lo trabajamos en Ship Shift

No publicamos definiciones aisladas: cada término del glosario encaja con un servicio o una solución que ya desplegamos. Si tu equipo está evaluando Sesgo algorítmico, partimos del proceso real (datos, canales, ERP) y solo después elegimos el modelo o la herramienta. Puedes seguir en Adaptación al AI Act o contarnos el caso en contacto.

Adaptación al AI Act · ← Volver al glosario A–Z