Arbeitgeber in New York City aufgepasst: Die Stadt hat ihre endgültige Regelung zur Regulierung von KI-Tools zur Überprüfung von Bewerbern erlassen (andere Städte werden sicherlich folgen).

An diesem Punkt in der Entwicklung der KI-Technologie gibt es zwar endlose Debatten über nichts Geringeres als die weitreichenden Auswirkungen der KI auf die Menschheit insgesamt, aber in einem kleinen Punkt scheinen wir uns alle einig zu sein. Der Einsatz von KI-Modellen am Arbeitsplatz zur Bewertung von Personen für Einstellungs-, Entlassungs- und andere Beschäftigungsentscheidungen kann – gelinde gesagt – problematisch sein. 

Wir haben kürzlich über einige der wichtigsten Probleme berichtet, mit denen Arbeitgeber, die KI einsetzen, konfrontiert sein können – von Bedenken hinsichtlich der Einprogrammierung menschlicher Vorurteile in KI-Modellebis hin zur Anpassung an die sich rasch verändernden bundesstaatlichen Vorschriften. Ebenso müssen Arbeitgeber, die KI einsetzen, sich über die zahlreichen staatlichen Vorschriften, die die Verwendung von KI im Rekrutierungs- und Einstellungsprozess überwachen und einschränken sollen, auf dem Laufenden halten. So haben beispielsweise Illinois und Maryland Gesetze erlassen, die Arbeitgeber verpflichten, Bewerbern mitzuteilen, ob ihre Bewerbungen mit KI-Tools bewertet werden, und die vorschreiben, dass die Arbeitgeber zuvor die Zustimmung der Bewerber zu einer solchen Verwendung einholen müssen.   

Es scheint, dass nun auch die Stadtverwaltungen in die Regulierungsmaßnahmen einsteigen. Anfang dieses Monats gab das New York City Department of Consumer and Worker Protection (DCWP) nach mehreren Verschiebungen, um öffentliche Anhörungen und Stellungnahmen zu den Durchführungsbestimmungen zu ermöglichen, bekannt, dass es mit der Durchsetzung des Local Law 144 beginnen wird. Dieses Gesetz, das 2021 verabschiedet wurde, regelt den Einsatz von „automatisierten Entscheidungshilfen für die Personalauswahl” (AEDTs), indem es vorschreibt, dass solche Tools vor ihrer Verwendung auf Voreingenommenheit überprüft werden müssen. Die Durchsetzung durch das DCWP soll gemäß der endgültigen Regelung des DCWP am 5. Juli 2023 beginnen. Die Anwendung dieser neuen Regelung wird sicherlich zusätzliche Unsicherheit und Besorgnis für Arbeitgeber mit sich bringen, die in New York City KI-Einstellungsinstrumente einsetzen. Und insofern andere Städte und Kommunalverwaltungen diesem Beispiel folgen, was häufig der Fall ist, könnte das Gesetz von New York City letztlich auch Arbeitgeber weit über seine Grenzen hinaus betreffen. 

Die Durchführungsbestimmung des DCWP enthält mehrere Seiten mit detaillierten Erläuterungen – oft mit anschaulichen Beispielen – dazu, worauf ab dem 5. Juli geachtet wird und wie Arbeitgeber die lokale Verordnung 144 einhalten können. Arbeitgebern wird empfohlen, die Einzelheiten der DCWP-Bestimmung zu prüfen, aber im Wesentlichen sieht die Bestimmung Folgendes vor:

• Erläutert, was das lokale Gesetz 144 tatsächlich bedeutet, wenn es besagt, dass es die Verwendung von AEDTs regelt, die „die Ermessensentscheidung bei Beschäftigungsentscheidungen, die natürliche Personen betreffen, wesentlich unterstützen oder ersetzen“. Insbesondere erklärt die DCWP-Regelung, dass ein AEDT der Regulierung unterliegt, wenn das Tool „eine vereinfachte Ausgabe (Punktzahl, Tag, Klassifizierung, Rangliste usw.) ohne Berücksichtigung anderer Faktoren“ generiert, auf die sich der Arbeitgeber ausschließlich stützt oder denen er übermäßiges Gewicht und Wert beimisst.
• Erklärt, dass regulierte AEDTs innerhalb eines Jahres vor ihrer Verwendung auf Verzerrungen geprüft werden müssen. Eine solche Prüfung muss unabhängig durchgeführt werden und eine Berechnung der „Auswahlquote“ und der „Auswirkungsquote“ für jede Geschlechts-, Rassen- und Ethnizitätskategorie sowie für die intersektionalen Kategorien für jede dieser Gruppen umfassen. Mit anderen Worten: Der Prüfer muss die Gesamtzahl der Bewerber in jeder Kategorie mit der Anzahl der ausgewählten Bewerber vergleichen und ermitteln, wie oft diese Art von Bewerbern ausgewählt wird. Die Prüfung muss während der gesamten Dauer der Verwendung des AEDT jährlich wiederholt werden. 
• Legt fest, wie die Ergebnisse der Prüfung mitgeteilt werden müssen. Nach Abschluss der Prüfung müssen die Ergebnisse „klar und deutlich“ im Bereich „Beschäftigung“ auf der Website des Arbeitgebers veröffentlicht werden. Diese Ergebnisse müssen mindestens sechs Monate nach der letzten Verwendung des geprüften AEDT verfügbar bleiben. 
• Zählt die Möglichkeiten auf, wie ein Arbeitgeber Bewerber und Mitarbeiter darüber informieren muss, dass im Zusammenhang mit der Bewertung ihrer Bewerbung ein AEDT verwendet wird. Die Benachrichtigung kann auf der Website des Arbeitgebers, in einer Stellenanzeige oder (unter bestimmten Umständen) per Post erfolgen.  

Die Regelung des DCWP ist zwar in vielerlei Hinsicht konkret, lässt jedoch einige grundlegende Fragen offen. Beispielsweise ist unklar, wie ein Arbeitgeber die Anforderungen zur Veröffentlichung der Prüfungsergebnisse erfüllen kann, wenn er keine öffentliche Website unterhält. Ebenso geht die Vorschrift nicht darauf ein, wie Daten von Bewerbern zu behandeln sind, die ihr Geschlecht, ihre Rasse oder ihre ethnische Zugehörigkeit für die Zwecke der vorgeschriebenen unabhängigen Prüfung nicht selbst angeben. Diese und andere Fragen könnten in naher Zukunft zu Verwirrung und in Zukunft zu Rechtsstreitigkeiten führen. 

Unabhängig davon ist klar, dass Arbeitgeber jetzt mit den Vorbereitungen für die Umsetzung der Local Rule 144 beginnen sollten, indem sie prüfen, ob die von ihnen zur Überprüfung von Bewerbern verwendeten Instrumente als AEDTs gelten, und sich mit erfahrenen Arbeitsrechtsberatern darüber beraten, wie sie angesichts der bevorstehenden Unsicherheiten Risiken mindern können.