Vorsicht bei der Entpersonalisierung der Personalabteilung: Das Gesetz über künstliche Intelligenz in Colorado wird unmittelbare Auswirkungen auf Arbeitgeber haben

Die Rolle der künstlichen Intelligenz (KI) in unserem Alltag nimmt immer mehr zu, von Chatbots im Kundenservice und digitalen Assistenten bis hin zu allgegenwärtigen Smart-Home-Geräten. Ebenso breitet sich der Einfluss dieser Technologie rasch auf den Bereich der Personalwirtschaft aus. Viele Unternehmen nutzen KI, um die Leistung ihrer Mitarbeiter zu verfolgen: So kann KI beispielsweise dazu verwendet werden, die Verkaufsleistung von Mitarbeitern anhand elektronischer Daten zu bewerten oder Projektergebnisse zu beurteilen. Es ist heute üblicher denn je, dass Arbeitgeber KI-Tools einsetzen, um Bewerber oder Kandidaten für Beförderungen zu überprüfen, unter anderem durch die Prüfung von Lebensläufen und Bewerbungen. Die EEOC berichtet, dass bis zu 99 % der Fortune-500-Unternehmen irgendeine Form von KI einsetzen, um Bewerber zu überprüfen oder zu bewerten. Diese Tools können zwar oft Zeit sparen und den Zugang zu Informationen optimieren, doch einige Anwendungen werden derzeit von Bundesbehörden (wie dem Arbeitsministerium) und staatlichen Gesetzgebern kritisch geprüft.

Colorado schaltete sich am 17. Mai 2024 in die Debatte ein, als Gouverneur Jared Polis das Colorado Artificial Intelligence Act (CAIA) unterzeichnete. Das Gesetz, das am 1. Februar 2026 in Kraft treten soll, befasst sich allgemein mit dem Einsatz von KI im Verbraucherbereich, einschließlich der Beschäftigung. Das CAIA enthält Bestimmungen, die sowohl Entwickler als auch Anwender von KI-Tools dazu verpflichten, angemessene Sorgfalt walten zu lassen, um Diskriminierung durch den Einsatz von „risikoreichen” KI-Systemen zu vermeiden. Um die Überlegungen zu verstehen, sind einige gesetzliche Definitionen hilfreich:

• Zu den Anwendern gehören diejenigen, die in Colorado geschäftlich tätig sind und ein „risikoreiches“ KI-System einsetzen.
• Ein „risikoreiches“ System ist jedes KI-System, das „eine folgenreiche Entscheidung trifft oder einen wesentlichen Faktor bei der Entscheidungsfindung darstellt“, einschließlich Entscheidungen in Bezug auf Beschäftigung oder Beschäftigungsmöglichkeiten.
• Ein „wesentlicher Faktor“ bezieht sich auf die Verwendung eines KI-Systems zur Generierung von Inhalten, Entscheidungen, Vorhersagen oder Empfehlungen in Bezug auf einen Verbraucher, die als Grundlage für eine „folgerichtige Entscheidung“ in Bezug auf diesen Verbraucher dienen.
• „Verbraucher“ bezeichnet eine Person, die ihren Wohnsitz in Colorado hat.

Das CAIA gilt für alle Arbeitgeber in Colorado, mit Ausnahme von Unternehmen mit weniger als 50 Mitarbeitern, die ihre eigenen Informationen oder Daten nicht zum Trainieren oder Verbessern des verwendeten KI-Systems nutzen, oder von Unternehmen, die Systeme einsetzen, die bestimmte Kriterien erfüllen. Ein Ziel des Gesetzes ist es, sicherzustellen, dass KI-Algorithmen keine diskriminierenden Ergebnisse aufgrund des tatsächlichen oder vermeintlichen Alters, der Hautfarbe, einer Behinderung, der ethnischen Zugehörigkeit oder anderer geschützter Merkmale liefern. Nutzer von KI-Systemen bei der Personalbeschaffung und -einstellung sind verpflichtet, angemessene Sorgfalt walten zu lassen, um Bewerber und Kandidaten vor bekannten oder vernünftigerweise vorhersehbaren Diskriminierungsrisiken zu schützen. Dies steht zwar im Einklang mit den geltenden Gesetzen, die von Arbeitgebern verlangen, nichtdiskriminierende Einstellungsverfahren anzuwenden, aber das CAIA geht noch weiter und verlangt von Arbeitgebern, die KI in diesem Prozess einsetzen, bestimmte positive Maßnahmen zu ergreifen.

• Insbesondere schreibt die CAIA eine Reihe von Maßnahmen für Anwender vor, die KI einsetzen und nicht anderweitig davon ausgenommen sind. Zu den wichtigsten Verpflichtungen gehört unter anderem die Anforderung, dass Anwender eine Risikomanagementrichtlinie und ein Risikomanagementprogramm zur Steuerung der Nutzung des KI-Systems implementieren müssen. Die Richtlinie muss regelmäßig überprüft und aktualisiert werden.
• Führen Sie eine Folgenabschätzung für das KI-System durch.
• Informieren Sie den Verbraucher vor der Entscheidung darüber, dass KI für eine folgenschwere Entscheidung eingesetzt wird, und legen Sie den Zweck des Systems, die Kontaktdaten des Betreibers, eine Beschreibung des Programms und die Art und Weise, wie auf zusätzliche Informationen zugegriffen werden kann, offen.
• Benachrichtigen Sie den Generalstaatsanwalt innerhalb von 90 Tagen, wenn Sie feststellen, dass die vom KI-System verwendeten Algorithmen zu einem diskriminierenden Ergebnis führen.

Im Falle einer nachteiligen Maßnahme gegenüber dem Verbraucher muss der Bereitsteller unter anderem:

• Dem Verbraucher die Hauptgründe für die Entscheidung mitteilen, darunter:
  • Der Grad und die Art und Weise, in der das KI-System zur Entscheidung beigetragen hat
  • Die Art der Daten, die vom KI-System im Zusammenhang mit der Entscheidung verarbeitet wurden
  • Die Quelle der betrachteten Daten
• Bieten Sie die Möglichkeit, fehlerhafte Daten, die vom KI-System verwendet werden, zu korrigieren.
• Bieten Sie die Möglichkeit, gegen die Entscheidung unter Einbeziehung einer menschlichen Überprüfung Einspruch einzulegen.

Wichtig ist, dass ein Anbieter, der seinen Verpflichtungen gemäß dem CAIA nachkommt, Anspruch auf eine widerlegbare Vermutung hat, dass er tatsächlich angemessene Sorgfalt walten ließ, um Verbraucher vor vorhersehbaren Risiken der Diskriminierung durch das KI-System zu schützen.

Das CAIA sieht auch öffentliche Durchsetzungsmechanismen vor; das Gesetz legt jedoch ausdrücklich fest, dass Einzelpersonen kein Recht haben, wegen Verstößen gegen das CAIA zu klagen. Der Generalstaatsanwalt von Colorado ist für die Durchsetzung des Gesetzes zuständig. Anbieter, die Verstöße umgehend beheben und ihre Systeme im Allgemeinen in Übereinstimmung mit allgemein anerkannten Praktiken des KI-Risikomanagements betreiben, können sich gegen Durchsetzungsmaßnahmen verteidigen. Im Falle einer Anfechtung trägt der Anbieter die Beweislast für die Einhaltung dieser Verteidigungsmaßnahmen.

Das Gesetz soll zwar Anfang 2026 in Kraft treten, unterliegt jedoch noch weiteren Regelungsmaßnahmen. Gouverneur Polis – der vor seinem Eintritt in die Politik als Dotcom-Unternehmer tätig war und einen Internetprovider sowie mehrere bekannte Online-Händler gegründet hatte – wies die Legislative außerdem darauf hin, dass die lange Vorlaufzeit bis zum Inkrafttreten des Gesetzes dazu dienen soll, der Regierung die Möglichkeit zu geben, das Gesetz weiter zu prüfen und zu verfeinern, da es sowohl in technischer Hinsicht als auch im Hinblick auf die Navigation durch ein potenziell komplexes Umfeld nationaler Vorschriften von Natur aus kompliziert ist.

Arbeitgeber, die KI-Tools bei der Rekrutierung oder Einstellung von Einwohnern Colorados einsetzen, sollten die nächsten 18 Monate nutzen, um ihre Systeme, Ansätze und Prozesse zu optimieren, um Diskriminierung durch Technologie zu vermeiden. Die Zeit vergeht schnell, insbesondere wenn Compliance-Fristen näher rücken. Eine proaktive Herangehensweise hilft dabei, potenzielle KI-Fallstricke bei der Rekrutierung zu vermeiden.