Cuando las herramientas de contratación con IA heredan sesgos humanos y cómo romper el ciclo

En una decisión histórica que debería resonar en la industria de tecnología de RRHH, el Noveno Circuito de Apelaciones de EE.UU. dictaminó esta semana que las reclamaciones por sesgo que surjan durante un arbitraje pueden seguir siendo perseguidas bajo la Ley de Fin a la Arbitraje Forzado de Acoso y Abuso Sexual (EFAA). El caso, que involucró alegatos de prácticas de contratación discriminatorias que surgieron a mitad del arbitraje, subraya una verdad crítica: la discriminación no desaparece tras puertas cerradas, se esconde en los algoritmos.

Este fallo llega en un momento en que las empresas dependen cada vez más de herramientas de contratación impulsadas por IA para evaluar candidatos, prometiendo eficiencia y objetividad. Pero, ¿qué ocurre cuando esas herramientas se entrenan con datos históricos sesgados? El riesgo no es teórico. Estudios demuestran que los sistemas de contratación con IA han favorecido repetidamente currículos con nombres tradicionalmente masculinos, penalizado brechas laborales vinculadas a responsabilidades de cuidado y hasta rechazado desproporcionadamente a candidatos de ciertos barrios. El problema no es la IA en sí, sino los datos de los que aprende y los humanos que diseñan los sistemas que interpretan sus resultados.

La cobertura de HR Dive sobre este caso destaca una tensión creciente en el ámbito de la contratación con IA: empresas que buscan evitar exposición legal mediante arbitraje forzado ahora descubren que las reclamaciones por sesgo no pueden enterrarse tan fácilmente. Esto debería servir como una llamada de atención para organizaciones que han intercambiado una forma de responsabilidad (demandas públicas) por otra (discriminación algorítmica opaca). El caso de la EFAA prueba que el sesgo no respeta cláusulas de confidencialidad: prospera en las sombras de sistemas no examinados.

Para los líderes de RRHH, el camino a seguir no es insistir en el arbitraje ni abandonar las herramientas de IA por completo. En cambio, se trata de exigir transparencia y responsabilidad. Esto implica auditar los algoritmos de contratación para detectar impactos dispares, garantizar una representación diversa en los conjuntos de datos de entrenamiento y establecer criterios claros sobre cómo se usan las recomendaciones de IA en las decisiones finales de contratación. También significa reconocer que la diversidad, equidad e inclusión (DEI) no son solo imperativos éticos: son estrategias de mitigación de riesgos.

El fallo del Noveno Circuito es un recordatorio de que la justicia demorada no es justicia denegada. En la era de la contratación con IA, el mismo principio aplica: un sesgo demorado es un sesgo incrustado. Las empresas que no aborden estos problemas no solo enfrentarán consecuencias legales, perderán la confianza de candidatos, empleados y el público. Las herramientas que construimos hoy moldearán la fuerza laboral del mañana. Construyámoslas con sabiduría.

Foto: Resume Genius / Unsplash (https://unsplash.com/@resumegenius)