California lidera el camino con nuevas regulaciones que abordan el uso de la IA en las decisiones laborales
Las normas actualizadas de California sobre el uso de sistemas de decisión automatizados basados en inteligencia artificial (IA) en el ámbito laboral entraron en vigor el 1 de octubre de 2025. Estas normas regulan el uso de «sistemas de decisión automatizados», que se definen como procesos computacionales que toman decisiones o facilitan la toma de decisiones humanas en relación con un beneficio laboral. Según la normativa, «los sistemas de decisión automatizados pueden derivarse de y/o utilizar inteligencia artificial, aprendizaje automático, algoritmos, estadísticas y/u otras técnicas de procesamiento de datos».
Las regulaciones establecen que es ilegal utilizar un sistema de decisión automatizado que discrimine a un solicitante o empleado en función de una categoría protegida por la Ley de Empleo y Vivienda Justos de California (FEHA). Las regulaciones se dirigen a situaciones como: un empleador utiliza un sistema de decisión automatizado para realizar una selección inicial de los currículos de los solicitantes, y el sistema de decisión automatizado elimina a todos los solicitantes con discapacidades (o de cualquier otra clase protegida, como por ejemplo por motivos de edad, género, etc.). Un ejemplo proporcionado por la normativa se refiere a un sistema de decisión automatizado que «analiza el tono de voz, las expresiones faciales u otras características físicas o comportamientos de un solicitante [que] pueden discriminar a las personas por motivos de raza, origen nacional, género, discapacidad u otras características».
En particular, las normas establecen que «las pruebas, o la falta de pruebas, de la realización de pruebas contra los prejuicios o de iniciativas proactivas similares para evitar la discriminación ilegal, incluida la calidad, la eficacia, la actualidad y el alcance de dichas iniciativas, los resultados de dichas pruebas u otras iniciativas, y la respuesta a los resultados» son relevantes para cualquier reclamación presentada en virtud de las normas.
Este lenguaje proporciona una hoja de ruta para los empleadores en lo que respecta a la prevención de reclamaciones basadas en el uso de sistemas de decisión automatizados. Los empleadores que utilicen sistemas de decisión automatizados deben tomar medidas de protección, como auditar estos sistemas para detectar sesgos y exigir a los proveedores que certifiquen que dichos sistemas han sido sometidos a pruebas exhaustivas para detectar sesgos y que cualquier problema de sesgo ha sido suficientemente abordado. Como suele ocurrir, California es uno de los primeros estados en abordar este tipo de tecnología en el contexto de sus leyes laborales. Esperamos que otras jurisdicciones sigan pronto su ejemplo.
