La ACLU apunta al reconocimiento de emociones por IA: Una llamada de atención para una contratación justa

La promesa de la IA en recursos humanos siempre ha sido agilizar procesos, reducir sesgos e identificar el mejor talento de manera más eficiente. Sin embargo, una reciente queja presentada por la Unión Americana de Libertades Civiles (ACLU) contra Emotify, una herramienta de evaluación de contratación por IA, sirve como un crudo recordatorio de la cuerda floja ética por la que caminamos al integrar algoritmos en áreas sensibles como la adquisición de talento.

La queja de la ACLU, presentada en California, alega que la herramienta de evaluación de reconocimiento de emociones de Emotify se asemeja tan estrechamente a las herramientas de diagnóstico clínico para el autismo que constituye un examen médico ilegal. Esto no es meramente una tecnicidad; ataca el corazón de las prácticas de contratación justas y plantea profundas preocupaciones sobre la discriminación, particularmente contra candidatos neurodivergentes.

Desde una perspectiva de tecnología de RRHH, este caso es un momento crítico. Si bien el atractivo de las evaluaciones de IA 'objetivas' es fuerte, la realidad es que muchas de estas herramientas operan como cajas negras, sus algoritmos sin escrutinio, sus sesgos sin examinar. La tecnología de reconocimiento de emociones, en particular, ha sido durante mucho tiempo un área contenciosa. Su validez científica a menudo se debate, y su aplicación en decisiones de alto riesgo como la contratación está llena de peligros. ¿Qué significan realmente 'nervioso' o 'desinteresado' en un entorno de entrevista, y cómo puede un algoritmo interpretar con precisión emociones humanas complejas, especialmente a través de diversos orígenes culturales o para individuos con diferentes perfiles neurológicos?

Para las empresas ansiosas por aprovechar la IA, esta queja subraya la necesidad absoluta de una revisión ética rigurosa y una validación transparente. Confiar en herramientas que pueden discriminar inadvertidamente no solo perjudica a los candidatos individuales, sino que también expone a las organizaciones a riesgos legales y reputacionales significativos. El objetivo de la IA en la contratación debe ser mejorar la toma de decisiones humanas, proporcionando puntos de datos que sean verdaderamente predictivos e imparciales, no introducir nuevas vías de exclusión.

Este incidente debería servir como una llamada de atención para todo el ecosistema de la IA. Los desarrolladores de tecnologías de RRHH deben priorizar el diseño ético, la explicabilidad y pruebas sólidas para detectar sesgos y garantizar la accesibilidad. Los reguladores deben intensificar sus esfuerzos para proporcionar directrices claras y supervisión. Y los líderes de RRHH, como los custodios finales de la cultura organizacional y la equidad, deben ejercer extrema precaución y diligencia al adoptar nuevas herramientas de IA. La búsqueda de la eficiencia nunca debe ir en detrimento de la equidad y la dignidad humana.

Foto: Zach M / Unsplash (https://unsplash.com/@zachmmalin)