Nueva York exige la divulgación del uso de IA con los solicitantes de empleo
La ciudad de Nueva York exige ahora que las organizaciones informen a los solicitantes de empleo de que utilizan IA como parte del proceso de contratación. Estas organizaciones también deben someterse a auditorías anuales realizadas por terceros independientes para garantizar que el software no presenta sesgos. Si se detecta alguna infracción, las empresas serán multadas Y tendrán que publicar los resultados de estas auditorías.
Washington D. C. y estados como California, Nueva Jersey y Vermont también están elaborando sus propias estrategias para regular la contratación con IA.
Hay varias empresas que ofrecen herramientas de IA para automatizar el proceso de contratación. Muchas de estas empresas afirman que garantizan que los prejuicios no influyan en los resultados. Sin embargo, hay ejemplos en los que eso no ha sido así.
El sistema de selección automatizado de Amazon tenía como objetivo evaluar a los candidatos en función de su idoneidad para diversos puestos. Dado que las mujeres habían estado infrarrepresentadas en puestos técnicos en el pasado, el sistema de inteligencia artificial consideraba que los candidatos masculinos eran preferibles. En consecuencia, penalizaba los currículos de las candidatas femeninas. A pesar de los cambios introducidos, no fue ninguna sorpresa que Amazon acabara abandonando la iniciativa en 2017.
La ley de Nueva York y otras que se están proponiendo pretenden establecer barreras de protección contra sistemas como el de Amazon. Washington D. C. está considerando una ley que responsabilizaría a los empleadores de prevenir los sesgos en los algoritmos de toma de decisiones automatizados. En California, este año se han presentado dos proyectos de ley que pretenden regular la IA en la contratación. Y a finales de diciembre, se presentó en Nueva Jersey un proyecto de ley que regularía el uso de la IA en las decisiones de contratación para minimizar la discriminación.
Desde el 1 de julio, los equipos de contratación de la ciudad de Nueva York están sujetos a nuevas regulaciones que rigen el uso de la inteligencia artificial en la contratación, también definidas por el Departamento de Protección al Consumidor y al Trabajador como «herramientas automatizadas de decisión de empleo» o AEDT. El objetivo de esta nueva medida es garantizar que las empresas actúen con equidad e igualdad de consideración al contratar con IA, una tecnología que ha suscitado preocupación por su objetividad cuestionable.
Ver artículo de referencia