Descifrando la reciente avalancha de leyes sobre IA en California
El gobernador de California, Gavin Newsom, se enfrentó recientemente a una oleada de legislación relacionada con la IA, con 38 proyectos de ley que llegaron a su escritorio. A pesar de rechazar el muy debatido SB-1047, el gobernador Newsom firmó más de una docena de otros proyectos de ley centrados en la IA a lo largo de septiembre. Estos abordan una serie de preocupaciones relacionadas con la inteligencia artificial, desde los riesgos que plantea la IA hasta el auge de la pornografía deepfake y los clones generados por IA de actores fallecidos de Hollywood.
«California, sede de la mayoría de las empresas líderes mundiales en inteligencia artificial, está trabajando para aprovechar estas tecnologías transformadoras con el fin de ayudar a abordar los retos más urgentes, al tiempo que estudia los riesgos que plantean», afirmó la oficina del gobernador Newsom en uncomunicado de prensa.
De los proyectos de ley relacionados con la IA que se han promulgado, 18 destacan por ser algunos de los más completos de Estados Unidos hasta la fecha. A continuación se ofrece una visión general de los principales temas que abarcan estas nuevas leyes.
Proyectos de ley relacionados con la IA firmados por el gobernador Newsom
Transparencia en los datos de entrenamiento de la IA
Una de las leyes más importantes es la AB-2013, que introduce requisitos de transparencia para los proveedores de IA generativa. La ley, que entrará en vigor en 2026, obligará a las empresas de IA a revelar información sobre los conjuntos de datos utilizados para entrenar sus modelos. Esta legislación obliga a estas empresas a revelar las fuentes de sus datos, explicar cómo se utilizan, indicar el número de puntos de datos, revelar si se incluyen datos protegidos por derechos de autor o con licencia, y aclarar el período de tiempo durante el cual se recopilaron los datos. Este aumento de la transparencia tiene por objeto proporcionar una mayor rendición de cuentas de los sistemas de IA, en particular los que se basan en datos a gran escala para su entrenamiento.
Aquí puede encontrar un artículo que responde a las preguntas frecuentes sobre esta legislación.
Gestión de riesgos de la IA
Otra ley clave que se ha promulgado es la SB-896, que obliga a la Oficina de Servicios de Emergencia de California (CalOES) a realizar análisis de riesgos sobre los peligros potenciales de la IA generativa. La ley exige la colaboración con empresas punteras en IA, como OpenAI y Anthropic, para evaluar los riesgos que la IA podría suponer para las infraestructuras estatales críticas y valorar las posibles amenazas que podrían provocar incidentes con víctimas múltiples. Este enfoque proactivo tiene como objetivo mitigar las consecuencias impredecibles que los sistemas avanzados de IA podrían tener sobre la seguridad pública.
La IA en la asistencia sanitaria
Varios proyectos de ley se centran en el uso de la IA en entornos sanitarios. El proyecto AB-3030 exige a los proveedores de atención médica que revelen cuándo utilizan IA generativa para comunicarse con los pacientes, especialmente cuando los mensajes contienen información clínica. Por su parte, el proyecto SB-1120 establece límites sobre cómo los proveedores de atención médica y las aseguradoras pueden automatizar sus servicios, garantizando que los médicos titulados supervisen el uso de herramientas de IA en estos entornos. Estas leyes tienen por objeto proteger los derechos de los pacientes y garantizar que la IA se utilice de forma adecuada en los entornos sanitarios.
Privacidad e inteligencia artificial
Ampliando (una vez más) el marco de privacidad de California, la ley AB-1008 extiende las leyes de privacidad existentes del estado para cubrir los sistemas de IA generativa. Esto significa que si un sistema de IA expone información personal, como nombres, direcciones o datos biométricos, las empresas estarán sujetas a restricciones sobre cómo pueden utilizar y obtener beneficios de esos datos. El objetivo es garantizar que los sistemas de IA se adhieran a las mismas protecciones de privacidad que rigen otras formas de procesamiento y uso de datos.
Marca de agua en contenido generado por IA
La SB-942, otra importante ley que se ha promulgado, exige que los sistemas de IA generativa de uso generalizado revelen que el contenido que crean ha sido generado por IA. Esto se hará a través de «datos de procedencia» incrustados en los metadatos del contenido. Por ejemplo, todas las imágenes creadas por DALL-E de OpenAI ahora necesitan una etiqueta en sus metadatos que indique que han sido generadas por IA. Aunque algunas empresas de IA ya añaden voluntariamente estas marcas de agua, la ley formaliza el requisito, lo que ayuda al público a identificar más fácilmente el contenido generado por IA.
Definición legal de IA
Otra ley fundamental, la AB-2885, establece una definición formal de inteligencia artificial dentro de la legislación de California. Según el proyecto de ley, la IA se define como «un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que, con objetivos explícitos o implícitos, puede inferir a partir de la información que recibe cómo generar resultados que pueden influir en entornos físicos o virtuales». Esta definición uniforme tiene por objeto crear un marco jurídico más claro para regular las tecnologías de IA en el estado.
Iniciativas educativas en materia de inteligencia artificial
El gobernador Newsom también firmó leyes que abordan el papel de la IA en la educación. La ley AB-2876 exige que la Junta de Educación del Estado de California tenga en cuenta los conocimientos sobre IA a la hora de desarrollar los marcos curriculares para materias como matemáticas, ciencias e historia. Esta iniciativa pretende preparar a los estudiantes para un futuro en el que la IA desempeñará un papel cada vez más importante, enseñándoles cómo funciona la IA, sus limitaciones y las consideraciones éticas que implica el uso de esta tecnología. Además, la ley SB-1288 exige a los superintendentes de California que formen grupos de trabajo para explorar cómo se está utilizando la IA en la educación pública e identificar posibles oportunidades y retos.
Llamadas automáticas con IA
Para abordar el problema de las llamadas automáticas engañosas generadas por IA, el gobernador Newsom promulgó la ley AB-2905. El proyecto de ley exige que las llamadas automáticas revelen cuándo utilizan voces generadas por IA, con el objetivo de evitar confusiones como la que se produjo a principios de 2024, cuando los votantes de New Hampshire fueron engañados por una llamada automática deepfake que imitaba la voz del presidente Joe Biden. Esta ley forma parte de un esfuerzo más amplio para frenar el uso indebido de la IA en contextos políticos y comerciales.
Lucha contra la pornografía deepfake
La pornografía deepfake se ha convertido en un problema preocupante, y el gobernador Newsom ha firmado varios proyectos de ley destinados a abordarlo. El proyecto de ley AB-1831 amplía las leyes existentes sobre pornografía infantil para incluir los contenidos generados por sistemas de inteligencia artificial. El proyecto de ley SB-926 tipifica como delito el chantaje a personas utilizando imágenes de desnudos generadas por inteligencia artificial que se parezcan a ellas, mientras que el proyecto de ley SB-981 exige a las plataformas de redes sociales que establezcan mecanismos de denuncia para que los usuarios puedan señalar los desnudos deepfake. Las plataformas deben bloquear temporalmente dichos contenidos mientras se investigan y eliminarlos de forma permanente si se confirma que son deepfake.
Falsificaciones electorales
El gobernador Newsom también firmó una serie de leyes destinadas a evitar que los deepfakes generados por IA influyan en las elecciones. La ley AB-2655 obliga a las grandes plataformas en línea, como Facebook y X (antes Twitter), a eliminar o etiquetar los deepfakes relacionados con las elecciones generados por IA y a crear canales para denunciar este tipo de contenido. Los candidatos y los funcionarios electos pueden solicitar medidas legales si las plataformas no cumplen con la ley. La ley AB-2839 aborda las acciones de los usuarios de las redes sociales que publican o reenvían deepfakes generados por IA que podrían inducir a error a los votantes, haciéndolos responsables de la difusión de información falsa. Además, la ley AB-2355 exige que los anuncios políticos creados con IA incluyan información clara, lo que garantiza la transparencia en las campañas políticas.
La IA y la industria del entretenimiento
Dos leyes adicionales, fuertemente respaldadas por el Sindicato de Actores de Cine y Televisión (SAG-AFTRA), establecen nuevas normas para la industria del entretenimiento y los medios de comunicación en relación con la IA. La ley AB-2602 exige a los estudios obtener el permiso de los actores antes de crear réplicas generadas por IA de su voz o imagen. La ley AB-1836 amplía protecciones similares a los artistas fallecidos, exigiendo a los estudios obtener el consentimiento de los herederos de los artistas antes de crear réplicas digitales. Estas leyes están diseñadas para proteger los derechos de los actores y sus herederos ante las crecientes capacidades de la IA, que puede recrear digitalmente a los artistas.
SB-1047 Veto
Aunque se aprobaron muchos proyectos de ley relacionados con la IA, el gobernador Newsom vetó el SB-1047, un proyecto de ley que pretendía regular los grandes sistemas de IA. En su carta de veto, el gobernador explicó que el proyecto de ley se centraba demasiado en los grandes modelos de IA, lo que, en su opinión, podía «dar al público una falsa sensación de seguridad». Además, hizo hincapié en la necesidad de adoptar un enfoque regulador más flexible que aborde tanto los sistemas de IA grandes como los pequeños, ya que los modelos más pequeños también pueden plantear riesgos importantes.
En una conversación con el director ejecutivo de Salesforce, Marc Benioff, en la conferencia Dreamforce 2024, el gobernador habló de la importancia de distinguir entre riesgos demostrables e hipotéticos en la IA. Reconoció que, aunque es imposible abordar todos los posibles problemas de la IA, los esfuerzos reguladores del estado se centrarán en resolver los retos más urgentes.
El gobernador Newsom también insinuó su enfoque más amplio para regular la IA. «Hay un proyecto de ley que está cobrando una importancia desmesurada en el debate público y en la conciencia colectiva: se trata del SB-1047», afirmó Newsom. «¿Cuáles son los riesgos demostrables de la IA y cuáles son los riesgos hipotéticos? No puedo resolverlo todo. ¿Qué podemos resolver? Y ese es el enfoque que estamos adoptando en todos los ámbitos».
Impacto en las empresas
La reciente avalancha de leyes sobre IA en California refleja el enfoque proactivo del estado para abordar tanto las oportunidades como los peligros que plantea la inteligencia artificial. Desde la privacidad y la educación hasta la atención sanitaria y la integridad electoral, estas nuevas leyes representan algunas de las regulaciones sobre IA más completas de Estados Unidos.
Las empresas que operan en California o interactúan con residentes de California deben tomar medidas ahora mismo para garantizar el cumplimiento de estas leyes. Las empresas que no operan en California también deben tomar nota de estas leyes y adoptar medidas para evaluar y considerar medidas de cumplimiento con los temas generales, ya que otros estados seguramente seguirán su ejemplo.
