El sesgo oculto en la contratación con IA del que nadie habla

En una sentencia histórica que podría redefinir cómo las empresas se defienden de acusaciones de sesgo en contratación y gestión, un juez federal de Nuevo México falló a favor de Walgreens en un caso de discriminación racial presentado por una exgerente de tienda. La demandante argumentó que la decisión de la compañía de cerrar tiendas temprano estaba motivada por un sesgo racial contra empleados negros, señalando dos casos comparables —uno de un empleado blanco y otro de origen latino— como prueba de un trato desigual. Sin embargo, el juez consideró que esos comparativos no eran lo suficientemente similares al caso de la demandante, otorgando una victoria parcial a Walgreens.

Este caso no se limita a la defensa legal de una sola empresa: es una advertencia para el ecosistema de contratación impulsado por IA. A medida que las organizaciones dependen cada vez más de herramientas algorítmicas para tomar decisiones laborales —desde horarios hasta promociones—, el riesgo de incorporar sesgos en esos sistemas aumenta. La sentencia del juez subraya una brecha crítica: cuando las herramientas de IA se basan en datos incompletos o mal emparejados, pueden perpetuar la discriminación bajo la apariencia de objetividad.

Lo que hace especialmente relevante esta sentencia hoy es la creciente adopción de IA en los departamentos de Recursos Humanos. Herramientas como los algoritmos de programación predictiva, que determinan las horas de los empleados según la demanda proyectada, suelen venderse como neutrales. Pero si esos algoritmos se entrenan con datos históricos que reflejan sesgos pasados —como gerentes que favorecen ciertos grupos demográficos para turnos o roles de liderazgo—, pueden reforzar esos patrones. El caso de Walgreens sirve como recordatorio de que incluso decisiones aparentemente simples, como el cierre de tiendas, pueden tener impactos desproporcionados cuando se filtran a través de sistemas sesgados.

Para profesionales de RRHH y desarrolladores de IA, la conclusión es clara: la transparencia y las pruebas rigurosas son innegociables. Las empresas deben garantizar que sus herramientas de IA no solo cumplan con las leyes antidiscriminación, sino que también sean capaces de identificar y mitigar sesgos en escenarios reales. Esto implica ir más allá de soluciones técnicas para examinar las decisiones humanas que moldean los datos desde el principio.

La gran pregunta es: ¿el caso de Walgreens refleja un problema sistémico en cómo abordamos el sesgo en el lugar de trabajo? Las victorias legales para los empleadores no borran la necesidad de una rendición de cuentas más profunda. A medida que la IA continúa infiltrándose en cada aspecto de la contratación y la gestión, la pregunta ya no es solo si una empresa puede ganar en los tribunales, sino si está trabajando activamente para evitar que el sesgo arraigue desde un principio.

Foto: Michael D Beckwith / Unsplash (https://unsplash.com/@mdbeckwith)