De recente golf van AI-wetten in Californië ontcijferd
De gouverneur van Californië, Gavin Newsom, kreeg onlangs te maken met een golf van AI-gerelateerde wetgeving, met 38 wetsvoorstellen op zijn bureau. Ondanks dat hij het veelbesproken SB-1047 verwierp, ondertekende gouverneur Newsom in september meer dan een dozijn andere AI-gerichte wetsvoorstellen. Deze hebben betrekking op een reeks zorgen met betrekking tot kunstmatige intelligentie, van de risico's van AI tot de opkomst van deepfake-pornografie en door AI gegenereerde klonen van overleden Hollywood-acteurs.
"Californië, waar de meeste toonaangevende AI-bedrijven ter wereld gevestigd zijn, werkt eraan om deze transformatieve technologieën in te zetten om dringende uitdagingen aan te pakken en tegelijkertijd de risico's ervan te bestuderen", aldus het kantoor van gouverneur Newsom in eenpersbericht.
Van de AI-gerelateerde wetsvoorstellen die zijn ondertekend, springen er 18 uit als enkele van de meest uitgebreide in de Verenigde Staten tot nu toe. Hier volgt een overzicht van de belangrijkste thema's die in deze nieuwe wetten aan bod komen.
AI-gerelateerde wetsvoorstellen ondertekend door gouverneur Newsom
Transparantie in AI-trainingsgegevens
Een van de belangrijkste wetten is AB-2013, die transparantievereisten invoert voor aanbieders van generatieve AI. De wet, die in 2026 van kracht wordt, verplicht AI-bedrijven om informatie openbaar te maken over de datasets die worden gebruikt om hun modellen te trainen. Deze wetgeving verplicht deze bedrijven om de bronnen van hun gegevens bekend te maken, uit te leggen hoe de gegevens worden gebruikt, het aantal gegevenspunten aan te geven, bekend te maken of er auteursrechtelijk beschermde of gelicentieerde gegevens zijn opgenomen, en duidelijk te maken gedurende welke periode de gegevens zijn verzameld. Deze verhoogde transparantie is bedoeld om AI-systemen, met name die welke voor hun training afhankelijk zijn van grootschalige gegevens, meer verantwoordingsplicht te geven.
Een artikel met veelgestelde vragen over deze wetgeving is hier beschikbaar.
AI-risicobeheer
Een ander belangrijk wetsvoorstel dat is aangenomen, is SB-896, dat het Californische Office of Emergency Services (CalOES) verplicht om risicoanalyses uit te voeren met betrekking tot de potentiële gevaren van generatieve AI. De wet vereist samenwerking met toonaangevende AI-bedrijven zoals OpenAI en Anthropic om de risico's te beoordelen die AI kan vormen voor kritieke staatsinfrastructuur en om potentiële bedreigingen te evalueren die kunnen leiden tot rampen met veel slachtoffers. Deze proactieve aanpak heeft tot doel de onvoorspelbare gevolgen die geavanceerde AI-systemen kunnen hebben voor de openbare veiligheid te beperken.
AI in de gezondheidszorg
Verschillende wetsvoorstellen richten zich op het gebruik van AI in de gezondheidszorg. AB-3030 verplicht zorgverleners om bekend te maken wanneer ze generatieve AI gebruiken om met patiënten te communiceren, met name wanneer de berichten klinische informatie bevatten. SB-1120 stelt daarentegen grenzen aan de mate waarin zorgverleners en verzekeraars hun diensten kunnen automatiseren, zodat erkende artsen toezicht houden op het gebruik van AI-tools in deze omgevingen. Deze wetten zijn bedoeld om de rechten van patiënten te beschermen en ervoor te zorgen dat AI op de juiste manier wordt gebruikt in de gezondheidszorg.
Privacy en AI
AB-1008 breidt (opnieuw) het privacykader van Californië uit en breidt de bestaande privacywetgeving van de staat uit tot generatieve AI-systemen. Dit betekent dat als een AI-systeem persoonlijke informatie openbaar maakt, zoals namen, adressen of biometrische gegevens, bedrijven te maken krijgen met beperkingen op het gebruik van en het profiteren van die gegevens. Het doel is ervoor te zorgen dat AI-systemen zich houden aan dezelfde privacybescherming die geldt voor andere vormen van gegevensverwerking en -gebruik.
Watermerken voor door AI gegenereerde content
SB-942, een ander belangrijk wetsvoorstel dat is ondertekend, vereist dat veelgebruikte generatieve AI-systemen bekendmaken dat de content die ze creëren door AI is gegenereerd. Dit gebeurt door middel van "herkomstgegevens" die in de metagegevens van de inhoud worden opgenomen. Zo moeten alle afbeeldingen die door OpenAI's DALL-E worden gecreëerd, voortaan in hun metagegevens een tag hebben die aangeeft dat ze door AI zijn gegenereerd. Hoewel sommige AI-bedrijven deze watermerken al vrijwillig toevoegen, formaliseert de wet deze vereiste, waardoor het publiek AI-gegenereerde inhoud gemakkelijker kan herkennen.
Juridische definitie van AI
Een andere belangrijke wet, AB-2885, geeft een formele definitie van kunstmatige intelligentie binnen de Californische wetgeving. Volgens het wetsvoorstel wordt AI gedefinieerd als "een technisch of machinaal systeem dat varieert in zijn mate van autonomie en dat, voor expliciete of impliciete doeleinden, op basis van de input die het ontvangt, kan afleiden hoe het output kan genereren die fysieke of virtuele omgevingen kan beïnvloeden". Deze uniforme definitie is bedoeld om een duidelijker wettelijk kader te creëren voor de regulering van AI-technologieën in de staat.
AI-onderwijsinitiatieven
Gouverneur Newsom heeft ook wetten ondertekend die betrekking hebben op de rol van AI in het onderwijs. AB-2876 verplicht de California State Board of Education om bij het ontwikkelen van leerplannen voor vakken als wiskunde, natuurwetenschappen en geschiedenis rekening te houden met AI-geletterdheid. Dit initiatief heeft tot doel studenten voor te bereiden op een toekomst waarin AI een steeds belangrijkere rol speelt, door hen te leren hoe AI werkt, wat de beperkingen ervan zijn en welke ethische overwegingen er bij het gebruik van deze technologie komen kijken. Bovendien verplicht SB-1288 Californische schoolhoofden om werkgroepen op te richten om te onderzoeken hoe AI wordt gebruikt in het openbaar onderwijs en om mogelijke kansen en uitdagingen in kaart te brengen.
Robocalls met behulp van AI
Om het probleem van misleidende, door AI gegenereerde robocalls aan te pakken, heeft gouverneur Newsom AB-2905 ondertekend en daarmee tot wet verheven. Het wetsvoorstel verplicht robocalls om te vermelden wanneer ze AI-gegenereerde stemmen gebruiken, met als doel verwarring te voorkomen, zoals het incident eerder in 2024 waarbij kiezers in New Hampshire werden misleid door een deepfake robocall die de stem van president Joe Biden imiteerde. Deze wet maakt deel uit van een bredere inspanning om misbruik van AI in politieke en commerciële contexten tegen te gaan.
Bestrijding van deepfake-pornografie
Deepfake-pornografie is een zorgwekkend probleem geworden en gouverneur Newsom heeft verschillende wetsvoorstellen ondertekend om dit probleem aan te pakken. AB-1831 breidt de bestaande wetgeving inzake kinderpornografie uit met inhoud die door AI-systemen wordt gegenereerd. SB-926 maakt het illegaal om personen te chanteren met door AI gegenereerde naaktfoto's die op hen lijken, terwijl SB-981 sociale mediaplatforms verplicht om meldingsmechanismen in te voeren waarmee gebruikers deepfake-naaktfoto's kunnen signaleren. Platforms moeten dergelijke inhoud tijdelijk blokkeren terwijl deze wordt onderzocht en permanent verwijderen als wordt bevestigd dat het om deepfake gaat.
Verkiezingsdeepfakes
Gouverneur Newsom heeft ook een reeks wetten ondertekend die bedoeld zijn om te voorkomen dat door AI gegenereerde deepfakes verkiezingen beïnvloeden. AB-2655 verplicht grote onlineplatforms zoals Facebook en X (voorheen Twitter) om verkiezingsgerelateerde AI-deepfakes te verwijderen of te labelen en kanalen te creëren voor het melden van dergelijke inhoud. Kandidaten en gekozen functionarissen kunnen juridische stappen ondernemen als platforms zich niet aan de wet houden. AB-2839 heeft betrekking op de acties van gebruikers van sociale media die AI-deepfakes posten of reposten die kiezers kunnen misleiden, en stelt hen verantwoordelijk voor het verspreiden van valse informatie. Daarnaast vereist AB-2355 dat politieke advertenties die met behulp van AI zijn gemaakt, duidelijke vermeldingen bevatten, om de transparantie in politieke campagnes te waarborgen.
AI en de entertainmentindustrie
Twee aanvullende wetten, die krachtig worden gesteund door de Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA), stellen nieuwe normen vast voor de entertainment- en media-industrie met betrekking tot AI. AB-2602 verplicht studio's om toestemming te vragen aan acteurs voordat ze AI-gegenereerde replica's van hun stem of gelijkenis maken. AB-1836 breidt soortgelijke bescherming uit naar overleden artiesten en verplicht studio's om toestemming te vragen aan de erfgenamen van de artiesten voordat ze digitale replica's maken. Deze wetten zijn bedoeld om de rechten van acteurs en hun erfgenamen te beschermen tegen de groeiende mogelijkheden van AI om artiesten digitaal te reproduceren.
SB-1047 Veto
Hoewel veel AI-gerelateerde wetsvoorstellen werden goedgekeurd, werd SB-1047, een wetsvoorstel dat tot doel had grote AI-systemen te reguleren, door gouverneur Newsom vetoed. In zijn veto-brief legde de gouverneur uit dat het wetsvoorstel te veel gericht was op grote AI-modellen, wat volgens hem "het publiek een vals gevoel van veiligheid zou kunnen geven". Hij benadrukte verder de noodzaak van een flexibelere regelgevende aanpak die zowel grote als kleine AI-systemen omvat, aangezien kleinere modellen ook aanzienlijke risico's kunnen inhouden.
In een gesprek met Marc Benioff, CEO van Salesforce, tijdens de Dreamforce-conferentie in 2024, besprak de gouverneur het belang van het onderscheid tussen aantoonbare en hypothetische risico's van AI. Hij erkende dat het onmogelijk is om alle mogelijke problemen met AI aan te pakken, maar dat de regelgevende inspanningen van de staat zich zullen richten op het oplossen van de meest urgente uitdagingen.
Gouverneur Newsom hintte ook naar zijn bredere benadering van het reguleren van AI. "Er is één wetsvoorstel dat wat betreft het publieke debat en bewustzijn nogal buiten proportie is, namelijk SB-1047", aldus Newsom. "Wat zijn de aantoonbare risico's van AI en wat zijn de hypothetische risico's? Ik kan niet alles oplossen. Wat kunnen we wel oplossen? Dat is de aanpak die we in dit verband over het hele spectrum hanteren."
Gevolgen voor bedrijven
De recente golf van AI-wetgeving in Californië weerspiegelt de proactieve aanpak van de staat om zowel de kansen als de gevaren van kunstmatige intelligentie aan te pakken. Van privacy en onderwijs tot gezondheidszorg en verkiezingsintegriteit: deze nieuwe wetten behoren tot de meest uitgebreide AI-regelgeving in de Verenigde Staten.
Bedrijven die zaken doen in Californië of contact hebben met inwoners van Californië moeten nu actie ondernemen om ervoor te zorgen dat ze aan deze wetten voldoen. Bedrijven die geen zaken doen in Californië moeten eveneens kennis nemen van deze wetten en stappen ondernemen om maatregelen te evalueren en te overwegen om aan de algemene thema's te voldoen, aangezien andere staten zeker zullen volgen.
