Un sesgo en la inteligencia artificial es un error sistemático por el que un sistema de IA produce resultados injustos o discriminatorios hacia ciertos grupos de personas. No suele ser intencionado: casi siempre nace de los datos con los que se entrena el modelo, que reflejan desigualdades del mundo real. Estos son 10 casos reales y documentados que lo ilustran, seguidos de los tipos de sesgo y de cómo se pueden reducir.
10 ejemplos reales de sesgos en la IA
1. La herramienta de contratación de Amazon (sesgo de género)
Amazon desarrolló entre 2014 y 2018 un sistema para puntuar currículums. Como lo entrenó con diez años de candidaturas mayoritariamente masculinas, aprendió a penalizar señales asociadas a mujeres, como la palabra «femenino» o haber estudiado en un centro solo para mujeres. La empresa acabó descartándolo al no poder garantizar su neutralidad.
2. El algoritmo COMPAS en la justicia de EE. UU. (sesgo racial)
COMPAS se usaba en tribunales estadounidenses para estimar la probabilidad de reincidencia. Un análisis periodístico de 2016 reveló que clasificaba erróneamente como «alto riesgo» a personas afroamericanas casi el doble de veces que a personas blancas, lo que podía traducirse en decisiones judiciales más duras.
3. Un algoritmo sanitario que priorizaba a pacientes blancos
En 2019 se descubrió que un algoritmo usado en hospitales de EE. UU. sobre más de 200 millones de personas favorecía a pacientes blancos frente a negros con el mismo estado de salud. El motivo: usaba el gasto sanitario previo como indicador de necesidad, y los pacientes negros, por desigualdades de acceso, habían gastado menos. Tras corregirlo, el sesgo se redujo alrededor de un 80 %.
4. Reconocimiento facial menos preciso con pieles oscuras
Investigaciones del MIT demostraron que varios sistemas comerciales de reconocimiento facial tenían tasas de error mucho más altas con personas de piel oscura, y especialmente con mujeres negras, porque se habían entrenado sobre todo con rostros de piel clara. Esto ha llegado a provocar identificaciones erróneas con consecuencias graves.
5. Generadores de imágenes que refuerzan estereotipos
Al analizar imágenes creadas por generadores de IA, se han encontrado sesgos de género, raza, clase y edad. Por ejemplo, al pedir profesiones cualificadas, algunos sistemas mostraban a las personas mayores siempre como hombres, reforzando el estereotipo sobre la mujer en puestos de responsabilidad.
6. Créditos e hipotecas más caros para minorías
Un estudio de la Universidad de California (Berkeley) halló que un sistema de IA para hipotecas cobraba de forma sistemática tipos de interés más altos a prestatarios de minorías por los mismos préstamos, un caso de discriminación indirecta a través de variables correlacionadas con la etnia.
7. Policía predictiva que amplifica el sesgo de las denuncias
Un modelo de policía predictiva entrenado con datos de denuncias en Bogotá predijo hasta un 20 % más de zonas «de alto crimen» de las reales en ciertos distritos. El problema no era la calle, sino los datos: algunos grupos son más denunciados que otros, y el modelo heredó ese sesgo.
8. Diagnóstico médico por imagen con menor precisión en ciertos grupos
Sistemas de ayuda al diagnóstico entrenados mayoritariamente con imágenes de un solo perfil demográfico (por ejemplo, hombres adultos blancos) han mostrado peor rendimiento al analizar imágenes de otros grupos de población, un riesgo directo para la equidad sanitaria.
9. Análisis de vídeo en entrevistas de trabajo
Algunas herramientas que analizaban el rostro y la voz de los candidatos en vídeoentrevistas fueron cuestionadas por producir resultados difíciles de verificar y potencialmente sesgados. Ante las críticas, alguna empresa dejó de usar el reconocimiento facial en su proceso.
10. Demandas por discriminación en cribados de IA (caso Workday)
En 2025, una demanda colectiva en EE. UU. contra un conocido software de recursos humanos abrió un precedente: los tribunales ampliaron el caso para incluir a personas cribadas por una herramienta de IA adquirida por el proveedor, dejando claro que comprar una tecnología sesgada no exime de responsabilidad por sus resultados.
Tipos de sesgo en la IA
- Sesgo de los datos: el modelo aprende de datos históricos que ya contienen desigualdades (el caso de Amazon o COMPAS).
- Sesgo de muestreo o representación: algunos grupos están poco presentes en los datos de entrenamiento (reconocimiento facial, diagnóstico por imagen).
- Sesgo por variable proxy: se usa un dato aparentemente neutral (el gasto sanitario) que en realidad está correlacionado con la etnia o el género.
- Sesgo algorítmico: el propio diseño del modelo prioriza ciertas características que llevan a resultados injustos.
Por qué se producen
La idea clave es sencilla: la IA no inventa el sesgo, lo hereda. Si entrenas un modelo con datos de un mundo desigual, el modelo reproduce —y a veces amplifica— esa desigualdad a gran escala y a gran velocidad. Y como muchas de estas decisiones parecen «objetivas» por venir de un algoritmo, el sesgo puede pasar desapercibido durante años.
Cómo se pueden reducir
- Usar datos de entrenamiento más representativos y equilibrados.
- Auditar los resultados por grupos demográficos, no solo el rendimiento medio.
- Evitar variables proxy que escondan discriminación indirecta.
- Mantener supervisión humana en las decisiones sensibles (empleo, crédito, justicia, sanidad).
- Aplicar marcos de transparencia y regulación, como el Reglamento Europeo de IA.
Preguntas frecuentes
¿Qué es un sesgo en la IA?
Es un error sistemático por el que un sistema de IA produce resultados injustos hacia ciertos grupos, normalmente porque aprende de datos que ya contenían esa desigualdad.
¿La IA es racista o machista a propósito?
No. El sesgo no suele ser intencionado: procede de los datos y del diseño del sistema, que reflejan desigualdades del mundo real.
¿Se puede eliminar del todo el sesgo?
Eliminarlo por completo es muy difícil, pero sí se puede reducir mucho con mejores datos, auditorías y supervisión humana.
¿Cómo sé si un sistema está sesgado?
Analizando sus resultados por grupos: si falla o perjudica más a un colectivo que a otro en las mismas condiciones, hay indicios de sesgo.
Si quieres entender mejor cómo funciona esta tecnología, consulta nuestra guía completa de inteligencia artificial.
Relacionado: ejemplos de alucinaciones de la IA (cuando la IA se inventa datos).
Relacionado: ejemplos de deepfakes (vídeos e imágenes falsos creados con IA).
Fuentes: análisis de ProPublica sobre COMPAS (2016); estudio de Obermeyer et al. en Science (2019) sobre el algoritmo sanitario; investigaciones del MIT sobre reconocimiento facial (Gender Shades); estudios de la Universidad de California (Berkeley) e IBM sobre sesgos en crédito e imágenes; casos recogidos por Reuters y The Conversation. Última actualización: julio de 2026.
Deja una respuesta