La EEOC se centra en las prácticas de contratación basadas en la inteligencia artificial en un acuerdo histórico
Como hemos escrito anteriormente, con la continua evolución y mejora de las herramientas de inteligencia artificial (IA) y el aprendizaje automático, las organizaciones confían cada vez más en estas herramientas como ayuda para reclutar, seleccionar y contratar a posibles candidatos en un mercado laboral cada vez más exigente.
Si bien estas herramientas pueden ser muy valiosas, también pueden aumentar el riesgo de que los empleadores se enfrenten a demandas por discriminación por impacto desigual. De hecho, en junio de 2023, la Comisión para la Igualdad de Oportunidades en el Empleo de los Estados Unidos (EEOC) publicó una guía sobre este tema en la que explicaba que, «sin las garantías adecuadas», el uso de la IA en la toma de decisiones laborales puede dar lugar a demandas por violación de los derechos civiles.
En este contexto, los empleadores deben prestar mucha atención a un reciente acuerdo de la EEOC en un caso en el que la agencia demandó a un proveedor de servicios de tutoría en línea por presunta discriminación por edad basada en el uso de herramientas de inteligencia artificial por parte del empleador para tomar decisiones de selección o contratación.
Concretamente, el 9 de agosto de 2023, iTutorGroup, Inc. y la EEOC presentaron una notificación conjunta de acuerdo ante el Tribunal de Distrito de los Estados Unidos para el Distrito Este de Nueva York con el fin de resolver las demandas por discriminación por edad que la agencia había presentado contra la empresa de tutoría en línea con sede en China. De conformidad con el decreto de consentimiento que resuelve el caso, iTutorGroup acordó pagar 365 000 dólares a un grupo de más de 200 solicitantes mayores de 55 años que, supuestamente, fueron rechazados por su edad.
El acuerdo resuelve las reclamaciones presentadas por la EEOC en una demanda de mayo de 2022 contra un grupo de empresas que prestan servicios de tutoría en línea de inglés a estudiantes en China. La EEOC alegó que iTutorGroup utilizaba un software de inteligencia artificial que descartaba a las mujeres mayores de 55 años y a los hombres mayores de 60 que solicitaban trabajar como tutores en línea con iTutorGroup. La EEOC alegó que, al utilizar este software, iTutorGroup rechazó automáticamente a más de 200 solicitantes de empleo en 2020 únicamente por su edad.
La demanda contra iTutorGroup forma parte de una iniciativa más amplia de la EEOC (tal y como refleja la reciente guía de la EEOC sobre el uso de la IA) para identificar y eliminar prácticas de contratación que, entre otras cosas, se basan en herramientas de IA o aprendizaje automático que excluyen intencionadamente o perjudican a grupos protegidos. Si bien este acuerdo es el primero en el que la EEOC ha llegado a un acuerdo con una empresa acusada de utilizar herramientas de IA que discriminan a los solicitantes en la contratación, a medida que las empresas de todo el mundo aumentan el uso de la IA en la contratación y para apoyar las actividades relacionadas con los recursos humanos, esperamos que se produzca un aumento del número de demandas dirigidas contra los sesgos de la IA en la contratación, ya sea por parte de organismos como la EEOC o de empleados individuales a través de abogados privados.
A medida que la IA sigue evolucionando, las empresas utilizan cada vez más estas herramientas en todos los aspectos de los recursos humanos. Según una encuesta reciente realizada por la Sociedad para la Gestión de Recursos Humanos a profesionales de RR. HH., casi el 80 % de las empresas encuestadas utilizan algún tipo de automatización o IA en la selección y contratación de personal. La demanda y el acuerdo de iTutorGroup deberían servir como advertencia sobre los peligros de confiar en las herramientas de IA a la hora de tomar decisiones de contratación. Aunque las herramientas de IA siguen ganando terreno en el mundo de los recursos humanos, sigue siendo responsabilidad de las organizaciones garantizar que sus prácticas de contratación se ajusten a la legislación laboral vigente y que cualquier herramienta de IA utilizada en el proceso de contratación cumpla con la legislación vigente. Esto incluye garantizar que se realicen análisis de impacto dispar en las decisiones de empleo en las que interviene la IA.
Seguiremos atentos a las novedades sobre las medidas de la EEOC contra los prejuicios en la selección, evaluación y contratación basadas en IA. Mientras tanto, si tienes alguna pregunta, ponte en contacto con tu abogado laboralista de Foley & Lardner.
