California se sitúa a la cabeza con una nueva normativa que aborda el uso de la IA en las decisiones laborales
La normativa actualizada de California relativa al uso de sistemas de decisión automatizada basados en inteligencia artificial (IA) en el empleo entró en vigor el 1 de octubre de 2025. Esta normativa aborda el uso de "sistemas de decisión automatizada", que la normativa define como procesos informáticos que toman decisiones o facilitan la toma de decisiones humanas en relación con una prestación laboral. Según la normativa, "los Sistemas de Decisión Automatizada pueden derivarse de y/o utilizar inteligencia artificial, aprendizaje automático, algoritmos, estadísticas y/u otras técnicas de procesamiento de datos."
La normativa prohíbe el uso de un sistema de decisión automatizado que discrimine a un solicitante o empleado por razón de una categoría protegida en virtud de la Ley de Empleo y Vivienda Justos de California (FEHA). La normativa se refiere a situaciones como las siguientes: un empleador utiliza un sistema de decisión automatizada para realizar un primer examen de los currículos de los solicitantes, y el sistema de decisión automatizada elimina a todos los solicitantes con discapacidades (o de cualquier otra categoría protegida, como la edad, el sexo, etc.). Un ejemplo que ofrece la normativa es el de un sistema de decisión automatizado que "analiza el tono de voz, las expresiones faciales u otras características físicas o de comportamiento de un solicitante [que] puede discriminar a las personas por motivos de raza, nacionalidad, sexo, discapacidad u otras características".
En particular, la normativa establece que "las pruebas, o la falta de pruebas, de pruebas antiprejuicio o de esfuerzos proactivos similares para evitar la discriminación ilegal, incluida la calidad, la eficacia, la periodicidad y el alcance de dichos esfuerzos, los resultados de dichas pruebas u otros esfuerzos y la respuesta a los resultados" son relevantes para cualquier reclamación presentada en virtud de la normativa.
Este texto ofrece a los empresarios una hoja de ruta para la prevención de reclamaciones basadas en el uso de sistemas de decisión automatizada. Los empleadores que utilicen sistemas de decisión automatizada deben tomar medidas de protección, como auditar estos sistemas para detectar sesgos y exigir a los proveedores que certifiquen que dichos sistemas han sido sometidos a pruebas exhaustivas para detectar sesgos y que cualquier problema de sesgo se ha abordado suficientemente. Como suele ser el caso, California es uno de los primeros estados en abordar este tipo de tecnología en el contexto de su legislación laboral. Esperamos que otras jurisdicciones sigan pronto su ejemplo.
