Un estudio difundido por Stanford HAI advierte que las herramientas de inteligencia artificial usadas para filtrar candidatos laborales pueden producir sesgos raciales y generar patrones de rechazo sistémico. La investigación analizó datos reales de 3.4 millones de personas, 4 millones de solicitudes de empleo, 1,700 vacantes, 150 empleadores y 11 sectores industriales, todas evaluadas por una herramienta de contratación desarrollada por un mismo proveedor externo.
El trabajo se enfoca en una parte cada vez más común del mercado laboral: los sistemas automatizados que clasifican, recomiendan o descartan aspirantes antes de que lleguen a una revisión humana. Según Stanford HAI, el problema no es únicamente que una empresa use IA para ordenar solicitudes, sino que muchas empresas dependan de los mismos proveedores. Cuando un algoritmo se vuelve dominante en un sector, sus criterios pueden repetirse en múltiples procesos de contratación.
Los investigadores encontraron evidencia de impacto adverso contra solicitantes negros y asiáticos. Para medirlo, aplicaron la regla de los cuatro quintos usada por la Comisión de Igualdad de Oportunidades en el Empleo de Estados Unidos, que señala una posible discriminación cuando un grupo es recomendado a una tasa menor al 80% de la tasa del grupo más favorecido. Bajo ese criterio, el estudio encontró que 26% de los solicitantes negros y 15% de los solicitantes asiáticos aplicaron a posiciones donde el sistema mostraba impacto adverso contra su grupo racial.
La diferencia no es menor. De acuerdo con el análisis, si la herramienta hubiera recomendado a candidatos negros y asiáticos al mismo ritmo que al grupo más favorecido, generalmente candidatos blancos, alrededor de 40,000 solicitudes adicionales habrían avanzado a la siguiente etapa del proceso de contratación.
Uno de los hallazgos más importantes es metodológico. Si las recomendaciones del proveedor se analizan en conjunto, como si todo fuera un solo proceso de contratación, el impacto adverso puede desaparecer en el promedio. Pero cuando los investigadores revisan cada vacante por separado, los patrones de discriminación aparecen con más claridad. Stanford HAI lo explica con un ejemplo: si una herramienta recomienda con frecuencia a candidatos negros para empleos de almacén, pero rara vez los recomienda para empleos financieros, el promedio general puede ocultar la discriminación que ocurre en ciertos puestos.
El estudio también introduce el concepto de monocultura algorítmica en contratación. La idea es que, si muchas empresas usan el mismo sistema para filtrar candidatos, los errores o sesgos del modelo no se quedan en una sola empresa: se propagan por todo el mercado laboral. La investigación encontró que las personas que enviaron varias solicitudes a puestos evaluados por el mismo proveedor tenían más probabilidades de ser rechazadas en todos los lugares a los que aplicaron de lo que se esperaría si cada empresa decidiera de manera estadísticamente independiente.
Ese patrón es lo que los autores llaman rechazo sistémico. Entre quienes enviaron cuatro solicitudes, 10% fue rechazado en todas. El estudio compara ese resultado con datos de una investigación previa sobre contratación en empresas Fortune 500, donde no se observó el mismo exceso de rechazos homogéneos. Para los autores, esto sugiere que la dependencia concentrada en un mismo proveedor puede crear cuellos de botella laborales.
El punto de fondo es que estas herramientas combinan tres características de alto riesgo: son ampliamente adoptadas, tienen consecuencias directas sobre oportunidades laborales y operan con poca visibilidad pública. Stanford HAI señala que el impacto de estas tecnologías sigue siendo difícil de observar porque el acceso a datos reales de contratación algorítmica es limitado.
Los autores proponen varias líneas de política pública: medir el impacto adverso por vacante y no solo en agregados generales; fortalecer la vigilancia del mercado; monitorear la dependencia compartida de los mismos proveedores; y ampliar el acceso de investigadores independientes a datos de plataformas de contratación automatizada.
La relevancia del estudio está en que muestra un tipo de exclusión menos visible que el rechazo individual. En un proceso tradicional, una persona puede ser rechazada por una empresa y tener otra oportunidad en otra. Pero si muchas compañías usan el mismo proveedor algorítmico, el filtro puede repetirse y convertir el mercado laboral en una red de puertas cerradas por la misma lógica técnica.
