La IA en la contratación: una práctica laboral regulada, no solo la adquisición de una tecnología

Lo que deben saber los empresarios ahora que los requisitos legales intentan ponerse al día con las herramientas algorítmicas de selección de personal

La inteligencia artificial se está generalizando cada vez más en los procesos de selección de personal de las empresas. Las herramientas que filtran currículos, analizan entrevistas en vídeo, predicen el éxito de los candidatos y optimizan la programación suelen formar parte de la oferta estándar de los proveedores de tecnología de recursos humanos. Sin embargo, la rápida adopción de estas herramientas puede llevar a pasar por alto los marcos legales que las regulan. Las empresas deben abordar las herramientas de selección de personal basadas en la inteligencia artificial no solo como una simple adquisición tecnológica, sino como prácticas laborales reguladas que conllevan riesgos de litigio, entre los que se incluyen los siguientes.

Impacto desigual y sesgo algorítmico. Las herramientas de selección de personal basadas en la IA son susceptibles de ser objeto de reclamaciones por impacto desigual en virtud de las leyes antidiscriminatorias federales y estatales. Incluso pequeños sesgos algorítmicos derivados de datos de entrenamiento sesgados, un diseño defectuoso del modelo o las denominadas variables «proxy» —como el código postal, la institución educativa o la distancia al lugar de trabajo— pueden generar ratios de selección que perjudiquen sistemáticamente a los grupos protegidos, sin que exista ninguna intención discriminatoria por parte del empleador o del desarrollador de la herramienta. Los datos históricos utilizados para entrenar la herramienta de IA pueden reproducir o amplificar patrones de contratación discriminatorios anteriores, lo que convierte el sesgo en un riesgo sistémico más que incidental. Como ya hemos señalado anteriormente, casos como Mobley contra Workday y el acuerdo de la EEOC con iTutorGroup demuestran que las demandas por discriminación laboral relacionadas con la IA se están litigando y ejecutando activamente.

Adaptaciones para personas con discapacidad. En virtud de la ADA, los empleadores siguen siendo responsables de garantizar que las herramientas de IA de terceros no excluyan ilegalmente a las personas con discapacidad. Cuando un método de evaluación basado en IA perjudica a los solicitantes con discapacidad, es posible que los empleadores tengan que ofrecer métodos de evaluación alternativos. El hecho de confiar en la garantía de un proveedor de que la herramienta «cumple con la ADA» no exime al empleador de sus obligaciones legales independientes.

Problemas relacionados con las «cajas negras» y los proveedores. Muchas herramientas de selección de personal basadas en la inteligencia artificial funcionan como «cajas negras» patentadas, con una transparencia limitada en cuanto a su lógica de toma de decisiones. Sin embargo, son los empleadores, y no los proveedores, quienes asumen la responsabilidad cuando estas herramientas producen resultados discriminatorios. Las garantías de los proveedores por sí solas no son suficientes; los empleadores necesitan tener acceso a estudios de validación, análisis de impacto adverso y documentación de auditoría. En última instancia, si se impugna una decisión de contratación, los empleadores deberían poder explicar por qué la tomaron.

Un mosaico de requisitos federales, estatales y locales. Las jurisdicciones federales, estatales y locales están actuando de forma independiente para regular la contratación basada en la IA, tal y como ya hemos comentado anteriormente. Dado el mosaico de requisitos y la incertidumbre en torno a unas directrices federales uniformes, las empresas deben supervisar su propio uso de la IA en la contratación y mantenerse al corriente de las actualizaciones de las leyes y normativas federales, estatales y locales.

Lista de comprobación práctica sobre cumplimiento normativo para empresas. Las empresas que utilicen o estén considerando utilizar herramientas de selección de personal basadas en la inteligencia artificial deberían tener en cuenta los siguientes pasos:

• Realizar un inventario de todas las herramientas de inteligencia artificial utilizadas en la captación, la preselección, las entrevistas y la selección, incluidas aquellas integradas en plataformas de RR. HH. más amplias.
• Solicite al proveedor la documentación correspondiente, incluidos los estudios de validación, la metodología del modelo, las descripciones de los datos de entrenamiento y los resultados de las pruebas de impacto adverso.
• Realice o encargue auditorías independientes sobre sesgos y análisis de impacto negativo, y no se base únicamente en las evaluaciones facilitadas por los proveedores.
• Se debe establecer una supervisión humana significativa en los puntos clave de la toma de decisiones para garantizar que los resultados de los algoritmos se revisen antes de adoptar medidas laborales de gran trascendencia.
• Establecer medidas de adaptación para que los solicitantes que, debido a una discapacidad, no puedan utilizar herramientas basadas en la inteligencia artificial tengan acceso a métodos de evaluación equivalentes.
• Facilitar las notificaciones obligatorias y obtener los consentimientos necesarios, cuando proceda, de conformidad con la legislación y la normativa vigentes.
• Conservar registros de las versiones de los modelos, los resultados de las auditorías, los estudios de validación y los registros de decisiones que sean suficientes para demostrar el cumplimiento y defenderse ante posibles reclamaciones.
• Realizar un seguimiento de los requisitos multijurisdiccionales, ya que siguen surgiendo nuevas leyes laborales específicas sobre la IA a nivel federal, estatal y local.

Si bien las ventajas en términos de eficiencia y comodidad que ofrecen las herramientas de selección de personal basadas en la IA pueden ser reales, también lo son los riesgos legales que conllevan. El uso más seguro de la IA en la selección de personal combina la explicabilidad, la supervisión y la documentación. Las empresas estarán en condiciones de aprovechar las ventajas de eficiencia que ofrece la IA y, al mismo tiempo, gestionar el riesgo de litigios si comprenden cómo funcionan sus herramientas, establecen estructuras de gobernanza en torno a ellas y consideran el cumplimiento normativo como un requisito de diseño de las mismas. Aquellas que traten la contratación basada en la IA como una simple decisión de adquisición, en lugar de como una iniciativa regulada, podrían verse envueltas en una acción coercitiva o en una demanda colectiva.