Desvendando a recente onda de leis sobre IA na Califórnia
O governador da Califórnia, Gavin Newsom, enfrentou recentemente uma onda de legislação relacionada à IA, com 38 projetos de lei chegando à sua mesa. Apesar de rejeitar o muito debatido SB-1047, o governador Newsom assinou mais de uma dúzia de outros projetos de lei focados em IA ao longo de setembro. Estes abordam uma série de preocupações relacionadas à inteligência artificial, desde os riscos representados pela IA até o aumento da pornografia deepfake e clones gerados por IA de atores falecidos de Hollywood.
«Sede da maioria das principais empresas de IA do mundo, a Califórnia está a trabalhar para aproveitar essas tecnologias transformadoras para ajudar a enfrentar desafios urgentes, ao mesmo tempo que estuda os riscos que elas apresentam», afirmou o gabinete do governador Newsom numcomunicado à imprensa.
Das leis relacionadas à IA que foram aprovadas, 18 se destacam como algumas das mais abrangentes dos Estados Unidos até o momento. Aqui está uma visão geral dos principais temas abordados por essas novas leis.
Projetos de lei relacionados à IA assinados pelo governador Newsom
Transparência nos dados de treino de IA
Uma das leis mais significativas é a AB-2013, que introduz requisitos de transparência para fornecedores de IA generativa. Com entrada em vigor prevista para 2026, a lei exigirá que as empresas de IA divulguem informações sobre os conjuntos de dados usados para treinar os seus modelos. Esta legislação exige que essas empresas revelem as fontes dos seus dados, expliquem como os dados são utilizados, indiquem o número de pontos de dados, divulguem se os dados protegidos por direitos autorais ou licenciados estão incluídos e esclareçam o período durante o qual os dados foram recolhidos. Esta maior transparência tem como objetivo proporcionar mais responsabilidade aos sistemas de IA, particularmente aqueles que dependem de dados em grande escala para o treino.
Um artigo que aborda as perguntas frequentes sobre esta legislação está disponível aqui.
Gestão de riscos da IA
Outra lei importante que foi aprovada é a SB-896, que determina que o Gabinete de Serviços de Emergência da Califórnia (CalOES) realize análises de risco sobre os perigos potenciais da IA generativa. A lei exige a colaboração com empresas pioneiras em IA, como a OpenAI e a Anthropic, para avaliar os riscos que a IA pode representar para infraestruturas estatais críticas e avaliar potenciais ameaças que podem levar a eventos com vítimas em massa. Esta abordagem proativa visa mitigar as consequências imprevisíveis que os sistemas avançados de IA podem ter sobre a segurança pública.
IA na área da saúde
Vários projetos de lei focam no uso da IA em ambientes de saúde. O AB-3030 exige que os prestadores de serviços de saúde divulguem quando usam IA generativa para se comunicar com os pacientes, especialmente quando as mensagens contêm informações clínicas. Enquanto isso, o SB-1120 estabelece limites sobre como os prestadores de serviços de saúde e seguradoras podem automatizar os seus serviços, garantindo que médicos licenciados supervisionem o uso de ferramentas de IA nesses ambientes. Essas leis têm como objetivo proteger os direitos dos pacientes e garantir que a IA seja usada de forma adequada em ambientes de saúde.
Privacidade e IA
Expandindo (mais uma vez) a estrutura de privacidade da Califórnia, a AB-1008 amplia as leis de privacidade existentes no estado para abranger sistemas de IA generativa. Isso significa que, se um sistema de IA expor informações pessoais — como nomes, endereços ou dados biométricos —, as empresas estarão sujeitas a restrições sobre como podem usar e lucrar com esses dados. O objetivo é garantir que os sistemas de IA sigam as mesmas proteções de privacidade que regem outras formas de processamento e uso de dados.
Marcação de água em conteúdo gerado por IA
O SB-942, outro projeto de lei significativo que foi sancionado, exige que os sistemas de IA generativa amplamente utilizados divulguem que o conteúdo que criam é gerado por IA. Isso será feito por meio de “dados de proveniência” incorporados nos metadados do conteúdo. Por exemplo, todas as imagens criadas pelo DALL-E da OpenAI agora precisam de uma etiqueta nos seus metadados indicando que foram geradas por IA. Embora algumas empresas de IA já adicionem voluntariamente essas marcas d'água, a lei formaliza a exigência, ajudando o público a identificar mais facilmente o conteúdo gerado por IA.
Definição jurídica de IA
Outra lei importante, a AB-2885, estabelece uma definição formal de inteligência artificial na legislação da Califórnia. De acordo com o projeto de lei, IA é definida como “um sistema projetado ou baseado em máquina que varia em seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir das entradas que recebe como gerar saídas que podem influenciar ambientes físicos ou virtuais”. Essa definição uniforme tem como objetivo criar uma estrutura jurídica mais clara para regulamentar as tecnologias de IA no estado.
Iniciativas de educação em IA
O governador Newsom também assinou leis que abordam o papel da IA na educação. A AB-2876 exige que o Conselho Estadual de Educação da Califórnia considere a alfabetização em IA ao desenvolver estruturas curriculares para disciplinas como matemática, ciências e história. Essa iniciativa visa preparar os alunos para um futuro em que a IA desempenha um papel cada vez mais importante, ensinando-lhes como a IA funciona, suas limitações e as considerações éticas envolvidas no uso da tecnologia. Além disso, a SB-1288 exige que os superintendentes da Califórnia formem grupos de trabalho para explorar como a IA está a ser utilizada na educação pública e identificar potenciais oportunidades e desafios.
Chamadas automáticas usando IA
Para resolver a questão das chamadas automáticas enganosas geradas por IA, o governador Newsom assinou a lei AB-2905. O projeto de lei exige que as chamadas automáticas divulguem quando utilizam vozes geradas por IA, com o objetivo de evitar confusões como o incidente ocorrido no início de 2024, em que eleitores em New Hampshire foram enganados por uma chamada automática deepfake que imitava a voz do presidente Joe Biden. Esta lei faz parte de um esforço mais amplo para coibir o uso indevido da IA em contextos políticos e comerciais.
Combate à pornografia deepfake
A pornografia deepfake surgiu como uma questão preocupante, e o governador Newsom assinou vários projetos de lei com o objetivo de combater esse problema. A AB-1831 amplia as leis existentes sobre pornografia infantil para incluir conteúdos gerados por sistemas de IA. A SB-926 torna ilegal chantagear indivíduos usando imagens de nudez geradas por IA que se assemelham a eles, enquanto a SB-981 exige que as plataformas de redes sociais estabeleçam mecanismos de denúncia para que os utilizadores sinalizem nudes deepfake. As plataformas devem bloquear temporariamente esses conteúdos enquanto estiverem sob investigação e removê-los permanentemente se forem confirmados como deepfake.
Deepfakes eleitorais
O governador Newsom também assinou uma série de leis destinadas a impedir que deepfakes gerados por IA influenciem as eleições. A AB-2655 determina que grandes plataformas online, como Facebook e X (antigo Twitter), removam ou identifiquem deepfakes relacionados às eleições gerados por IA e criem canais para denunciar esse tipo de conteúdo. Candidatos e autoridades eleitas podem buscar reparação legal se as plataformas não cumprirem a lei. A AB-2839 aborda as ações dos utilizadores de redes sociais que publicam ou republicam deepfakes gerados por IA que podem induzir os eleitores em erro, responsabilizando-os pela divulgação de informações falsas. Além disso, a AB-2355 exige que os anúncios políticos criados com IA incluam divulgações claras, garantindo a transparência nas campanhas políticas.
A IA e a indústria do entretenimento
Duas leis adicionais, fortemente apoiadas pelo Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA), estabelecem novos padrões para a indústria do entretenimento e da mídia em relação à IA. A AB-2602 exige que os estúdios obtenham permissão dos atores antes de criar réplicas geradas por IA de suas vozes ou imagens. A AB-1836 estende proteções semelhantes a artistas falecidos, exigindo que os estúdios obtenham o consentimento dos herdeiros dos artistas antes de criar réplicas digitais. Essas leis foram criadas para proteger os direitos dos atores e seus herdeiros diante das crescentes capacidades da IA, que pode recriar digitalmente os artistas.
SB-1047 Veto
Embora muitos projetos de lei relacionados à IA tenham sido aprovados, o SB-1047, um projeto que buscava regulamentar grandes sistemas de IA, foi vetado pelo governador Newsom. Na sua carta de veto, o governador explicou que o projeto era muito restrito ao foco em grandes modelos de IA, o que, na sua opinião, poderia «dar ao público uma falsa sensação de segurança». Ele enfatizou ainda mais a necessidade de uma abordagem regulatória mais flexível que aborde tanto os grandes quanto os pequenos sistemas de IA, já que modelos menores também podem representar riscos significativos.
Numa conversa com o CEO da Salesforce, Marc Benioff, na conferência Dreamforce 2024, o governador discutiu a importância de distinguir entre riscos comprovados e hipotéticos na IA. Ele reconheceu que, embora seja impossível abordar todas as questões potenciais relacionadas à IA, os esforços regulatórios do estado se concentrarão em resolver os desafios mais urgentes.
O governador Newsom também deu a entender a sua abordagem mais ampla para regulamentar a IA. «Há um projeto de lei que é um pouco exagerado em termos de discurso público e consciência; é o SB-1047», disse Newsom. «Quais são os riscos comprovados da IA e quais são os riscos hipotéticos? Não posso resolver tudo. O que podemos resolver? E essa é a abordagem que estamos a adotar em todo o espectro sobre este assunto.»
Impacto nas empresas
A recente onda de legislação sobre IA na Califórnia reflete a abordagem proativa do estado para lidar com as oportunidades e os perigos apresentados pela inteligência artificial. De privacidade e educação a cuidados de saúde e integridade eleitoral, essas novas leis representam algumas das regulamentações de IA mais abrangentes dos Estados Unidos.
As empresas que fazem negócios na Califórnia ou interagem com residentes da Califórnia precisam tomar medidas agora para garantir a conformidade com essas leis. As empresas que não fazem negócios na Califórnia também devem tomar nota dessas leis e tomar medidas para avaliar e considerar medidas de conformidade com os temas gerais, pois outros estados certamente seguirão o exemplo.
