La Legislatura de California ha vuelto al trabajo para 2024, y uno de los puntos prioritarios de su agenda será la regulación de la inteligencia artificial (IA) a nivel estatal. La regulación de la IA ha cobrado aún más importancia a nivel nacional en los últimos meses. Aunque recientemente publicamos este resumen de la Orden Ejecutiva de Biden el 31 de octubre de 2023, California ha dado prioridad a la regulación de las aplicaciones de IA.
California lidera el auge de la IA en Estados Unidos, concretamente en el área de la bahía de San Francisco. En una orden ejecutiva del estado de California emitida el año pasado sobre políticas y regulación responsables en materia de IA, el gobernador Newsom señaló: «California se ha consolidado como líder mundial en innovación en GenAI, con 35 de las 50 principales empresas de IA del mundo y una cuarta parte de todas las patentes, ponencias y empresas de IA a nivel mundial». Axiostambién señala que San Francisco tiene el mayor número de nuevas ofertas de empleo en GenAI, y la ciudad cuenta con 20 de las empresas de IA mejor financiadas (más que el resto de Estados Unidos en su conjunto).
Dada la importancia de las empresas de IA en el estado y la velocidad a la que avanza y se adopta esta tecnología, ¿significa esto que California debería asumir un mayor nivel de responsabilidad en materia de regulación? Este año se prevé la presentación de más de una ley sobre IA en la legislatura, así como otras múltiples iniciativas reguladoras a nivel estatal.
A continuación se presentan algunas de las medidas reguladoras en materia de IA que introducirán los miembros de la Asamblea de California.
Discriminación
En primer lugar, la diputada Rebecca Bauer-Kahan, que preside la Comisión de Privacidad y Protección del Consumidor de la Asamblea, ha anunciado su intención de volver a presentar un proyecto de ley contra la discriminación en la IA. Este proyecto prohibiría a las empresas utilizar algoritmos de IA que discriminen a las personas y exigiría a las empresas que desarrollan estos algoritmos que los evalúen y revelen cualquier riesgo potencial de discriminación.
Seguridad y transparencia
El senador estatal Scott Wiener tiene previsto presentar una legislación más amplia destinada a establecer normas de seguridad y transparencia en todo el sector. Ha declarado que la SB294 se centrará en los riesgos más importantes para la seguridad pública, entre los que se incluyen las armas biológicas generadas por IA, los ciberataques y las campañas de desinformación. Aunque aún no se ha ultimado, su objetivo será regular la IA en el estado de forma más amplia.
Entretenimiento
Con un enfoque más específico, el asambleísta Ash Kalra busca promulgar nuevas medidas de protección para los actores y artistas en relación con la IA, lo que constituyó una parte importante de las negociaciones durante la huelga de actores del año pasado. El proyecto de ley limitaría la capacidad de los estudios para utilizar la IA con el fin de replicar el trabajo de un actor o artista y abordaría las imprecisiones lingüísticas de los contratos que, de otro modo, podrían permitir prácticas no deseadas.
CPPA y ADMT
La Agencia de Protección de la Privacidad de California (CPPA) está llevando a cabo una iniciativa para regular la tecnología de toma de decisiones automatizada (ADMT) en el estado. Las regulaciones propuestas se presentaron en noviembre de 2023, lo que indica los planes de la agencia de regular de manera significativa las herramientas automatizadas que utilizan la inteligencia artificial y el reconocimiento facial.
Las normas propuestas exigen a las empresas que informen a los consumidores de que utilizan esta tecnología y permiten a los residentes de California impedir el uso de sus datos personales por parte de ADMT. Las empresas también estarían obligadas a notificar a los solicitantes de empleo si la decisión sobre su contratación se ha basado en ADMT.
Bajo el liderazgo actual, California está demostrando su interés por liderar el camino en lo que respecta a la regulación de las aplicaciones de IA a nivel estatal. Fue uno de los primeros en allanar el camino para las regulaciones estatales de privacidad y protección de datos, y otros estados pronto le siguieron. Estén atentos a las novedades a medida que estos esfuerzos avancen en la legislatura y otras agencias.
