Entschlüsselung der jüngsten Flut von KI-Gesetzen in Kalifornien

Der Gouverneur von Kalifornien, Gavin Newsom, sah sich kürzlich mit einer Flut von Gesetzesvorlagen zum Thema KI konfrontiert, von denen 38 auf seinem Schreibtisch landeten. Obwohl er den viel diskutierten Gesetzentwurf SB-1047 ablehnte, unterzeichnete Gouverneur Newsom im Laufe des Septembers mehr als ein Dutzend andere Gesetzesvorlagen mit Schwerpunkt auf KI. Diese befassen sich mit einer Reihe von Bedenken im Zusammenhang mit künstlicher Intelligenz, von den Risiken, die KI mit sich bringt, bis hin zum Aufkommen von Deepfake-Pornografie und KI-generierten Klonen verstorbener Hollywood-Schauspieler.

„Kalifornien, wo die meisten weltweit führenden KI-Unternehmen ihren Sitz haben, arbeitet daran, diese transformativen Technologien zu nutzen, um dringende Herausforderungen anzugehen und gleichzeitig die damit verbundenen Risiken zu untersuchen“, erklärte das Büro von Gouverneur Newsom in einerPressemitteilung.

Von den unterzeichneten Gesetzen zum Thema KI sind 18 als einige der bislang umfassendsten in den Vereinigten Staaten hervorzuheben. Hier finden Sie einen Überblick über die wichtigsten Themen, die diese neuen Gesetze abdecken.

Von Gouverneur Newsom unterzeichnete Gesetze im Zusammenhang mit KI

Transparenz bei KI-Trainingsdaten

Eines der wichtigsten Gesetze ist AB-2013, das Transparenzanforderungen für Anbieter generativer KI einführt. Das Gesetz soll 2026 in Kraft treten und verpflichtet KI-Unternehmen, Informationen über die Datensätze offenzulegen, die zum Trainieren ihrer Modelle verwendet werden. Diese Gesetzgebung verpflichtet diese Unternehmen, die Quellen ihrer Daten offenzulegen, die Verwendung der Daten zu erläutern, die Anzahl der Datenpunkte anzugeben, offenzulegen, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, und den Zeitraum zu präzisieren, in dem die Daten erhoben wurden. Diese erhöhte Transparenz soll für mehr Verantwortlichkeit bei KI-Systemen sorgen, insbesondere bei solchen, die für das Training auf groß angelegte Datenmengen angewiesen sind.

Ein Artikel mit häufig gestellten Fragen zu dieser Gesetzgebung ist hier verfügbar.

KI-Risikomanagement

Ein weiteres wichtiges Gesetz, das unterzeichnet wurde, ist SB-896, das das kalifornische Amt für Notfallmaßnahmen (CalOES) dazu verpflichtet, Risikoanalysen hinsichtlich der potenziellen Gefahren generativer KI durchzuführen. Das Gesetz schreibt die Zusammenarbeit mit führenden KI-Unternehmen wie OpenAI und Anthropic vor, um die Risiken zu bewerten, die KI für kritische staatliche Infrastrukturen darstellen könnte, und potenzielle Bedrohungen zu evaluieren, die zu Massenunfällen führen könnten. Dieser proaktive Ansatz zielt darauf ab, die unvorhersehbaren Folgen zu mindern, die fortschrittliche KI-Systeme für die öffentliche Sicherheit haben könnten.

KI im Gesundheitswesen

Mehrere Gesetzesvorlagen befassen sich mit dem Einsatz von KI im Gesundheitswesen. AB-3030 verpflichtet Gesundheitsdienstleister dazu, offenzulegen, wenn sie generative KI für die Kommunikation mit Patienten einsetzen, insbesondere wenn die Nachrichten klinische Informationen enthalten. SB-1120 legt hingegen Grenzen für die Automatisierung von Dienstleistungen durch Gesundheitsdienstleister und Versicherer fest und stellt sicher, dass zugelassene Ärzte den Einsatz von KI-Tools in diesen Umgebungen überwachen. Diese Gesetze sollen die Rechte der Patienten schützen und sicherstellen, dass KI im Gesundheitswesen angemessen eingesetzt wird.

Datenschutz und KI

Mit AB-1008 wird das Datenschutzgesetz in Kalifornien (erneut) erweitert und die bestehenden Datenschutzgesetze des Bundesstaates auf generative KI-Systeme ausgeweitet. Das bedeutet, dass Unternehmen, wenn ein KI-System personenbezogene Daten wie Namen, Adressen oder biometrische Daten offenlegt, Einschränkungen hinsichtlich der Verwendung und Verwertung dieser Daten unterliegen. Ziel ist es, sicherzustellen, dass KI-Systeme denselben Datenschutzbestimmungen unterliegen wie andere Formen der Datenverarbeitung und -nutzung.

Wasserzeichen für KI-generierte Inhalte

SB-942, ein weiterer wichtiger Gesetzentwurf, der unterzeichnet wurde, verlangt, dass weit verbreitete generative KI-Systeme offenlegen müssen, dass die von ihnen erstellten Inhalte KI-generiert sind. Dies geschieht durch „Herkunftsdaten”, die in die Metadaten der Inhalte eingebettet sind. Beispielsweise müssen alle von OpenAI's DALL-E erstellten Bilder nun in ihren Metadaten mit einem Tag versehen werden, der angibt, dass sie von KI generiert wurden. Obwohl einige KI-Unternehmen diese Wasserzeichen bereits freiwillig hinzufügen, formalisiert das Gesetz diese Anforderung und hilft der Öffentlichkeit, KI-generierte Inhalte leichter zu identifizieren.

Rechtliche Definition von KI

Ein weiteres wichtiges Gesetz, AB-2885, legt eine formale Definition von künstlicher Intelligenz innerhalb des kalifornischen Rechts fest. Gemäß dem Gesetzentwurf wird KI definiert als „ein technisches oder maschinelles System, das sich in seinem Autonomiegrad unterscheidet und das für explizite oder implizite Ziele aus den erhaltenen Eingaben ableiten kann, wie Ausgaben generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können“. Diese einheitliche Definition soll einen klareren rechtlichen Rahmen für die Regulierung von KI-Technologien im Bundesstaat schaffen.

Initiativen zur KI-Bildung

Gouverneur Newsom unterzeichnete auch Gesetze, die sich mit der Rolle von KI im Bildungswesen befassen. AB-2876 verpflichtet die kalifornische Bildungsbehörde, bei der Entwicklung von Lehrplänen für Fächer wie Mathematik, Naturwissenschaften und Geschichte auch KI-Kompetenzen zu berücksichtigen. Diese Initiative zielt darauf ab, Schüler auf eine Zukunft vorzubereiten, in der KI eine immer wichtigere Rolle spielt, indem ihnen vermittelt wird, wie KI funktioniert, welche Grenzen sie hat und welche ethischen Überlegungen mit dem Einsatz dieser Technologie verbunden sind. Darüber hinaus verpflichtet SB-1288 die kalifornischen Schulleiter, Arbeitsgruppen zu bilden, um zu untersuchen, wie KI in der öffentlichen Bildung eingesetzt wird, und potenzielle Chancen und Herausforderungen zu identifizieren.

Robocalls mit KI

Um das Problem irreführender, KI-generierter Robocalls anzugehen, unterzeichnete Gouverneur Newsom das Gesetz AB-2905. Der Gesetzentwurf schreibt vor, dass Robocalls offenlegen müssen, wenn sie KI-generierte Stimmen verwenden, um Verwirrung wie bei dem Vorfall Anfang 2024 zu vermeiden, bei dem Wähler in New Hampshire durch einen Deepfake-Robocall getäuscht wurden, der die Stimme von Präsident Joe Biden imitierte. Dieses Gesetz ist Teil einer umfassenderen Initiative zur Eindämmung des Missbrauchs von KI in politischen und kommerziellen Kontexten.

Bekämpfung von Deepfake-Pornografie

Deepfake-Pornografie hat sich zu einem beunruhigenden Problem entwickelt, und Gouverneur Newsom hat mehrere Gesetzesvorlagen unterzeichnet, die darauf abzielen, dieses Problem anzugehen. AB-1831 erweitert die bestehenden Gesetze zur Kinderpornografie um Inhalte, die von KI-Systemen generiert werden. SB-926 macht es illegal, Personen mit KI-generierten Nacktbildern zu erpressen, die ihnen ähneln, während SB-981 Social-Media-Plattformen verpflichtet, Meldeverfahren einzurichten, über die Nutzer Deepfake-Nacktfotos melden können. Die Plattformen müssen solche Inhalte während der Untersuchung vorübergehend sperren und sie dauerhaft entfernen, wenn sie sich als Deepfake bestätigen.

Wahl-Deepfakes

Gouverneur Newsom unterzeichnete außerdem eine Reihe von Gesetzen, die verhindern sollen, dass KI-generierte Deepfakes Wahlen beeinflussen. AB-2655 schreibt vor, dass große Online-Plattformen wie Facebook und X (ehemals Twitter) wahlbezogene KI-Deepfakes entfernen oder kennzeichnen und Kanäle für die Meldung solcher Inhalte einrichten müssen. Kandidaten und gewählte Amtsträger können rechtliche Schritte einleiten, wenn Plattformen sich nicht an das Gesetz halten. AB-2839 befasst sich mit den Handlungen von Social-Media-Nutzern, die KI-Deepfakes posten oder reposten, die Wähler irreführen könnten, und macht sie für die Verbreitung falscher Informationen verantwortlich. Darüber hinaus schreibt AB-2355 vor, dass politische Werbung, die mit KI erstellt wurde, klare Angaben enthalten muss, um die Transparenz in politischen Kampagnen zu gewährleisten.

KI und die Unterhaltungsindustrie

Zwei weitere Gesetze, die von der Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) nachdrücklich unterstützt werden, legen neue Standards für die Unterhaltungs- und Medienbranche in Bezug auf KI fest. AB-2602 verpflichtet Studios, vor der Erstellung KI-generierter Nachbildungen der Stimme oder des Aussehens von Schauspielern deren Zustimmung einzuholen. AB-1836 erweitert ähnliche Schutzmaßnahmen auf verstorbene Darsteller und verpflichtet Studios, vor der Erstellung digitaler Nachbildungen die Zustimmung der Nachlassverwalter der Darsteller einzuholen. Diese Gesetze sollen die Rechte von Schauspielern und ihren Nachlassverwaltern angesichts der wachsenden Möglichkeiten der KI, Darsteller digital nachzubilden, schützen.

SB-1047 Veto

Während viele Gesetzesvorlagen im Zusammenhang mit KI Zustimmung fanden, wurde SB-1047, ein Gesetzentwurf zur Regulierung großer KI-Systeme, von Gouverneur Newsom abgelehnt. In seinem Ablehnungsschreiben erklärte der Gouverneur, dass sich der Gesetzentwurf zu sehr auf große KI-Modelle konzentriere, was seiner Meinung nach „der Öffentlichkeit ein falsches Gefühl der Sicherheit vermitteln könnte”. Er betonte außerdem die Notwendigkeit eines flexibleren Regulierungsansatzes, der sowohl große als auch kleine KI-Systeme berücksichtigt, da auch kleinere Modelle erhebliche Risiken bergen können.

In einem Gespräch mit Marc Benioff, CEO von Salesforce, auf der Dreamforce-Konferenz 2024 sprach der Gouverneur darüber, wie wichtig es ist, zwischen nachweisbaren und hypothetischen Risiken im Zusammenhang mit KI zu unterscheiden. Er räumte ein, dass es zwar unmöglich ist, jedes potenzielle Problem im Zusammenhang mit KI anzugehen, die Regulierungsbemühungen des Bundesstaates sich jedoch auf die Lösung der dringendsten Herausforderungen konzentrieren werden.

Gouverneur Newsom deutete auch seinen umfassenderen Ansatz zur Regulierung von KI an. „Es gibt einen Gesetzentwurf, der in Bezug auf die öffentliche Debatte und das Bewusstsein eine gewisse Sonderstellung einnimmt: SB-1047“, sagte Newsom. „Was sind die nachweisbaren Risiken der KI und was sind die hypothetischen Risiken? Ich kann nicht alle Probleme lösen. Was können wir lösen? Und das ist der Ansatz, den wir in diesem Bereich insgesamt verfolgen.“

Auswirkungen auf Unternehmen

Die jüngste Flut von KI-Gesetzen in Kalifornien spiegelt den proaktiven Ansatz des Bundesstaates wider, sowohl die Chancen als auch die Gefahren der künstlichen Intelligenz anzugehen. Von Datenschutz und Bildung bis hin zum Gesundheitswesen und der Integrität von Wahlen – diese neuen Gesetze gehören zu den umfassendsten KI-Vorschriften in den Vereinigten Staaten.

Unternehmen, die in Kalifornien geschäftlich tätig sind oder mit Einwohnern Kaliforniens interagieren, müssen jetzt Maßnahmen ergreifen, um die Einhaltung dieser Gesetze sicherzustellen. Unternehmen, die nicht in Kalifornien geschäftlich tätig sind, sollten diese Gesetze ebenfalls zur Kenntnis nehmen und Schritte unternehmen, um Maßnahmen zur Einhaltung der allgemeinen Themen zu bewerten und zu prüfen, da andere Bundesstaaten sicherlich folgen werden.