Destaques da ordem executiva da Administração Biden sobre IA

Em 30 de outubro de 2023, o presidente Biden assinou a Ordem Executiva sobre o Desenvolvimento e Uso Seguro, Protegido e Confiável da Inteligência Artificial , com 53 páginas, que avança significativamente a estrutura política dos Estados Unidos em relação à inteligência artificial (IA). Esta diretiva baseia-se no anterior Plano para uma Carta de Direitos da IA da Administração Biden e delineia uma estratégia abrangente que visa posicionar os Estados Unidos como líderes na orientação do desenvolvimento e aplicação responsáveis da IA.

Embora reconheça o potencial dos sistemas de IA responsáveis para tornar o mundo mais próspero, produtivo, inovador e seguro, também reconhece que o uso irresponsável pode agravar problemas sociais como fraude, discriminação, preconceito e desinformação, além de resultar em trabalhadores deslocados e desempoderados, concorrência sufocada e riscos à segurança nacional.

A Ordem Executiva também reconhece que abordar essas questões requer a coordenação do governo, do setor privado, da academia e da sociedade civil. Embora a maioria dos requisitos da Ordem Executiva se aplique apenas ao governo federal, as empresas privadas podem ser afetadas por alguns requisitos que se aplicam diretamente às empresas privadas, requisitos que podem se aplicar às empresas que contratam o governo federal para o uso de IA e quaisquer estatutos, regulamentos ou orientações resultantes que devam ser desenvolvidos de acordo com a Ordem Executiva.

Princípios Orientadores

A Ordem Executiva estabelece oito princípios orientadores e prioridades relativos ao desenvolvimento e uso responsável da IA:

• IA segura e protegida:os sistemas de IA devem passar por avaliações robustas, confiáveis, repetíveis e padronizadas para garantir a sua segurança e proteção. Devem existir políticas, instituições e mecanismos para testar, compreender e mitigar os riscos desses sistemas antes de serem utilizados. O governo federal deve ser notificado, incluindo os resultados dos testes de segurança, ao treinar sistemas de IA que possam representar um risco à segurança nacional, estabilidade económica ou saúde e segurança públicas.
• Liderança dos Estados Unidos.A Ordem Executiva reconhece que, ao promover a inovação responsável, a concorrência e a colaboração, os Estados Unidos podem liderar a IA e explorar o seu potencial. Os Estados Unidos devem investir em educação, formação, I&D e capacidade para atrair os melhores talentos em IA e promover a inovação responsável, a concorrência e a colaboração. As novas questões de direitos de propriedade intelectual que surgem com o desenvolvimento e a utilização da IA devem ser abordadas, e a conivência ilegal e o monopólio sobre ativos e tecnologias essenciais devem ser interrompidos. A Ordem Executiva também afirma que o governo federal promoverá um ecossistema e um mercado justos, abertos e competitivos para a IA e tecnologias relacionadas, a fim de permitir que pequenos desenvolvedores e empreendedores impulsionem a inovação nessa área e evitem a conivência ilegal que poderia surgir em semicondutores, poder de computação, armazenamento em nuvem e disponibilidade e utilização de dados.
• Apoio aos trabalhadores americanos.A Ordem Executiva reconhece que o desenvolvimento e a utilização responsáveis da IA exigem um compromisso com o apoio aos trabalhadores americanos por meio da educação e da formação profissional. O impacto da IA sobre a força de trabalho e os direitos dos trabalhadores deve ser compreendido. A Ordem Executiva afirma, portanto, que o governo buscará adaptar a formação profissional e a educação para preparar os trabalhadores americanos para a implantação da IA, ao mesmo tempo em que tentará garantir que a IA não seja implantada de forma a prejudicar direitos, piorar a qualidade do emprego, incentivar a vigilância indevida dos trabalhadores, diminuir a concorrência no mercado, introduzir novos riscos à saúde e à segurança ou causar perturbações prejudiciais à força de trabalho. Isto está em consonância com o objetivo de apoiar utilizações responsáveis da IA que melhorem a vida dos trabalhadores americanos, aumentem positivamente o seu trabalho e ajudem as pessoas a desfrutar com segurança dos ganhos desta tecnologia.
• Equidade e direitos civis. AOrdem Executiva reconhece que as políticas de IA devem ser consistentes com o avanço da equidade e dos direitos civis, incluindo o combate à «discriminação algorítmica». Para promover esse objetivo, a Ordem Executiva promete que o governo se baseará nas medidas já tomadas pelo governo federal (como aEstrutura de Gestão de Riscos de IA do NISTea Ordem Executiva nº 14091) para garantir que a IA cumpra todas as leis federais e promova uma avaliação e supervisão adequadas. Isso inclui responsabilizar os responsáveis pelo desenvolvimento e implantação da IA por padrões que protejam contra discriminação e abuso.
• Proteção ao consumidor. Outroprincípio orientador descrito na Ordem Executiva é que os interesses dos americanos, especialmente dos menores, que cada vez mais utilizam, interagem ou adquirem IA e produtos habilitados para IA em suas vidas diárias, devem ser protegidos, e que o uso da IA não pode isentar as organizações de suas obrigações legais de proteção ao consumidor. Como resultado, a Ordem Executiva promete que o governo federal continuará a aplicar as leis de proteção ao consumidor existentes e a promulgar salvaguardas adequadas contra fraudes, preconceitos não intencionais, discriminação, invasões de privacidade e outros danos semelhantes relacionados ao uso da IA — especialmente nas áreas de saúde, serviços financeiros, educação, habitação e transporte, onde erros podem ser desastrosos. Ao mesmo tempo, o governo federal promoverá o uso responsável da IA para proteger os consumidores, melhorar a qualidade dos bens e serviços, reduzir os preços e ampliar a seleção e a disponibilidade.
• Privacidade e liberdades civis.A Ordem Executiva estabelece que a privacidade e as liberdades civis dos americanos devem ser protegidas, garantindo que a recolha, utilização e retenção de dados sejam legais, seguras e promovam a privacidade. Reconhecendo que a IA torna significativamente mais fácil extrair, reidentificar, ligar, inferir e agir sobre informações sensíveis sobre as pessoas e as suas vidas, a Ordem Executiva exige que o governo federal garanta que a recolha, utilização e retenção de dados sejam legais, seguras e abordem os riscos de privacidade e confidencialidade, exigindo que as agências federais utilizem as salvaguardas políticas e técnicas disponíveis (incluindo tecnologias de reforço da privacidade) para proteger a privacidade individual e combater os riscos legais e sociais.
• Uso responsável pelo governo federal. Aordem executiva reconhece que o governo federal deve gerir os riscos decorrentes do seu próprio uso da IA e aumentar a sua capacidade interna para regulamentar, governar e apoiar o uso responsável da IA, a fim de proporcionar melhores resultados para os americanos. A ordem executiva promete que o governo federal trabalhará para garantir que os funcionários federais recebam formação adequada para compreender os benefícios, riscos e limitações da IA, enquanto tenta modernizar e simplificar as suas operações.
• Coordenação internacional. AOrdem Executiva reconhece que o governo federal deve liderar o caminho para o progresso social, económico e tecnológico global, envolvendo-se com parceiros internacionais para desenvolver uma estrutura para gerir os riscos da IA, desbloquear o potencial da IA para o bem e promover uma abordagem comum para desafios partilhados. Para isso, a Ordem Executiva promete que a administração se envolverá com a comunidade internacional para desenvolver uma estrutura responsável para o uso da IA.

Requisitos regulamentares

A Ordem Executiva estabelece uma série de requisitos específicos destinados a concretizar esses princípios. Embora grande parte da Ordem Executiva crie obrigações para os membros do gabinete e chefes de agências, os resultados de muitas dessas atividades provavelmente afetarão as empresas privadas. Especificamente, a Ordem Executiva exige que os membros do gabinete e chefes de agências, geralmente em cooperação com a indústria privada, promulguem políticas e procedimentos e tomem outras medidas que possam afetar as empresas privadas das seguintes maneiras:

• Estabelecendo novos padrões para a segurança e proteção da IA, incluindo:
  • Exigir que os desenvolvedores de IA poderosa compartilhem os resultados dos seus testes de segurança e outras informações críticas com os reguladores dos EUA.
  • Desenvolvimento de normas, ferramentas e testes para avaliar a segurança, proteção e confiabilidade da IA.
  • Desenvolver normas para proteger contra o risco de usar IA para desenvolver materiais biológicos perigosos.
  • Proteger contra fraudes e enganos, estabelecendo padrões e melhores práticas concebidos para detetar conteúdo gerado por IA e autenticar conteúdo legítimo.
  • Desenvolvimento de ferramentas de IA para encontrar e corrigir vulnerabilidades em softwares críticos.
• Apelos para aprovar uma legislação abrangente sobre privacidade para proteger os americanos e, especialmente, os menores, através de:
  • Priorizar o apoio federal a tecnologias que melhoram a privacidade, incluindo aquelas que utilizam IA e que permitem que os sistemas de IA sejam treinados, preservando a privacidade.
  • Financiamento de uma rede de coordenação de investigação para reforçar a investigação e as tecnologias que preservam a privacidade.
  • Desenvolvimento de diretrizes para agências federais avaliarem tecnologias que aumentam a privacidade, o que pode afetar empresas do setor privado que fornecem IA e tecnologias semelhantes.
• Promova a igualdade e os direitos civis através de:
  • Fornecer orientações claras aos proprietários, administradores e programas de benefícios federais sobre o uso adequado e responsável da IA e como evitar o uso da IA de forma a aumentar a discriminação.
  • Combater a discriminação algorítmica por meio de treinamento, assistência técnica e coordenação entre agências federais que investigam violações dos direitos civis relacionadas à IA.
  • Garantir a equidade em todo o sistema de justiça criminal, desenvolvendo as melhores práticas sobre o uso da IA em atividades de justiça criminal.
• Defenda os consumidores, pacientes e estudantes ao:
  • Promovendo o uso responsável da IA nas indústrias farmacêutica e de cuidados de saúde.
  • Criação de recursos para apoiar os educadores na implementação de ferramentas educativas baseadas em IA.
• Mitigar os riscos para os trabalhadores decorrentes dos perigos do aumento da vigilância no local de trabalho, preconceitos e deslocamento de empregos, por meio das seguintes medidas:
  • Desenvolver princípios e práticas que abordem a substituição de postos de trabalho, normas laborais, equidade no local de trabalho, saúde e segurança, e recolha de dados para minimizar os danos da IA para os trabalhadores.
  • Desenvolver relatórios sobre o impacto da IA nos mercados de trabalho e estudar e identificar opções para apoiar os trabalhadores que possam enfrentar perturbações laborais decorrentes da IA.
• Promover a inovação e a concorrência através de:
  • Testar uma ferramenta que dará aos investigadores e estudantes de IA acesso a recursos e dados de IA (Recurso Nacional de Investigação em IA) e ampliar as bolsas para investigação em IA em áreas vitais, como saúde e alterações climáticas.
  • Fornecer aos pequenos programadores e empreendedores acesso a assistência técnica e recursos, além de ajudar pequenas empresas a comercializar tecnologia de IA.
  • Aumentar a força de trabalho de IA composta por imigrantes e não imigrantes altamente qualificados, modernizando e simplificando os critérios de visto, entrevistas e avaliações.
• Assuma uma posição de liderança no apoio ao desenvolvimento e uso seguro e confiável da IA, por meio das seguintes ações:
  • Expandir acordos e estruturas internacionais para colaborar no uso responsável da IA, a fim de maximizar os seus benefícios e gerir os seus riscos.
  • Acelerar o desenvolvimento de normas internacionais.
  • Promover o desenvolvimento e a implementação seguros, responsáveis e que afirmem os direitos da IA
• Garantir o uso responsável e eficaz da IA pelo governo através de:
  • Emitir orientações sobre o uso da IA por agências federais, incluindo normas claras para proteger os direitos dos indivíduos e a segurança pública, ao mesmo tempo em que melhora a aquisição e fortalece a implantação.
  • Ajudar na aquisição de produtos e serviços de IA de forma mais rápida e económica.
  • Acelerar a contratação de profissionais de IA no governo dos EUA e exigir que as agências ofereçam formação em IA para funcionários públicos de todos os níveis.

Principais conclusões

A definição e o impacto parecem ser amplos. A Ordem Executiva define um «sistema de IA» como qualquer sistema de dados, software, hardware, aplicação, ferramenta ou utilitário que opere total ou parcialmente com IA. A definição atual não restringe quais produtos, softwares ou localizações geográficas específicos estão incluídos num «sistema de IA». Isso deixa em aberto a interpretação sobre até onde as novas regras e regulamentações irão chegar.

Este é o início de uma regulamentação potencialmente rigorosa. Muitas agências receberam a tarefa de desenvolver normas nacionais para garantir a segurança e a proteção da IA. É possível que algumas agências desenvolvam normas ou regulamentações que se reflitam ou até mesmo entrem em conflito entre si. No entanto, até que as agências comecem a promulgar regulamentações, não está claro como isso afetará a IA a longo prazo.

A administração não esconde o seu desejo de promover a concorrência. A ordem executiva não só exige que pequenos desenvolvedores e empreendedores tenham acesso a assistência técnica e recursos para ajudar a comercializar avanços em IA, mas também exige a simplificação do processo para que não cidadãos possam realizar pesquisas em IA e outras tecnologias críticas e emergentes. Além disso, será lançado um projeto-piloto do Recurso Nacional de Pesquisa em IA como uma ferramenta para fornecer a pesquisadores e estudantes de IA acesso a recursos e dados essenciais de IA.

A preocupação com a segurança e a proteção está em primeiro plano. A ordem executiva concentra-se na proteção dos direitos e da segurança dos indivíduos, com a esperança de mitigar o risco de discriminação e preconceito por parte dos sistemas de IA. Especificamente, há orientações para promover a equidade e os direitos civis, reduzir o potencial de enganar o público e apoiar os trabalhadores em questões relacionadas à vigilância no local de trabalho, preconceito e deslocamento profissional.

Olhando para o futuro

Grande parte da Ordem Executiva orienta os membros do gabinete e chefes de agências a desenvolver orientações ou regulamentos relativos ao uso da IA que ainda não foram desenvolvidos. Dito isto, ela também impõe prazos às agências federais para emitir relatórios e elaborar diretrizes que abordem as principais preocupações ecoadas pela administração. Se o Congresso aprovar nova legislação em resposta à Ordem Executiva, é vital que as empresas estejam atentas a essas novas regras e tomem as medidas necessárias para cumpri-las.

As empresas devem garantir que contam com a assistência de advogados para orientá-las neste cenário jurídico cada vez mais complexo. Continuar a monitorizar essas orientações ou regulamentações e preparar-se para implementá-las de forma adequada quando forem finalmente divulgadas contribuirá muito para maximizar os benefícios da IA e minimizar as perturbações nas operações. Entretanto, as organizações podem querer iniciar auditorias internas e monitorizar os sistemas atualmente em desenvolvimento ou já implementados para identificar potenciais riscos à privacidade de dados e à cibersegurança, resultados errados e preconceitos.

Aprofunde-se

Foley está aqui para ajudar a explorar este novo terreno – nas próximas semanas, examinaremos a Ordem Executiva através da lente de diferentes indústrias e áreas do direito. Para obter as nossas últimas informações, consulte o seguinte:

• Casa Branca emite extensa ordem executiva sobre IA(Trabalho e Emprego)
• Nova ordem executiva de Biden sobre supervisão, desenvolvimento e uso de IA: implicações para o setor de saúde(Saúde e Ciências da Vida)