Werkgevers in New York City opgelet: de Big Apple heeft zijn definitieve regelgeving voor AI-tools voor het screenen van sollicitanten bekendgemaakt (andere steden zullen zeker volgen).

Op dit moment in de ontwikkeling van AI-technologie, terwijl er eindeloze discussies worden gevoerd over niets minder dan de verstrekkende gevolgen van AI voor de mensheid als geheel, lijken we het allemaal eens te zijn over één klein punt. Het gebruik van AI-modellen op de werkplek om personen te beoordelen voor aanwerving, ontslag en andere beslissingen op het gebied van werkgelegenheid kan – op zijn zachtst gezegd – problematisch zijn. 

We hebben onlangs verslag gedaan van enkele van de belangrijkste kwesties waarmee werkgevers die AI gebruiken te maken kunnen krijgen – van zorgen over het inbouwen van menselijke vooroordelen in AI-modellentot het bijhouden van de snel veranderende federale regelgeving. Evenzo moeten werkgevers die AI gebruiken op de hoogte blijven van de vele staatsvoorschriften die zijn ontworpen om het gebruik van AI in het wervings- en sollicitatieproces te controleren en te beperken. Zo hebben Illinois en Maryland beide wetten aangenomen die werkgevers verplichten om sollicitanten te informeren als hun sollicitatie wordt beoordeeld door AI-tools, en die werkgevers verplichten om vooraf toestemming van de kandidaten te vragen voor dergelijk gebruik.   

Het lijkt erop dat ook gemeentebesturen zich nu gaan bemoeien met de regelgeving. Eerder deze maand kondigde het New York City Department of Consumer and Worker Protection (DCWP) aan dat het, na verschillende uitstel om openbare hoorzittingen en commentaar op de uitvoeringswetgeving mogelijk te maken, zal beginnen met de handhaving van Local Law 144. Die wet, die in 2021 werd aangenomen, reguleert het gebruik van "geautomatiseerde besluitvormingsinstrumenten voor werkgelegenheid" (AEDT's) door te eisen dat dergelijke instrumenten worden gecontroleerd op vooringenomenheid voordat ze worden gebruikt. De handhaving door het DCWP gaat volgens de definitieve regel van het DCWP op 5 juli 2023 van start. De toepassing van deze nieuwe regel zal zeker een extra laag van onzekerheid en bezorgdheid toevoegen voor werkgevers die AI-wervingsinstrumenten gebruiken in New York City. En voor zover andere steden en lokale overheden dit voorbeeld volgen, wat ze vaak doen, kan de wet van New York City uiteindelijk ook gevolgen hebben voor werkgevers ver buiten de stadsgrenzen. 

De uitvoeringsregel van het DCWP bevat pagina's met gedetailleerde uitleg – vaak met illustratieve voorbeelden – over wat er op 5 juli verwacht wordt en hoe werkgevers kunnen voldoen aan Local Law 144. Werkgevers doen er goed aan om de details van de regel van het DCWP door te nemen, maar in grote lijnen houdt de regel het volgende in:

• Verduidelijkt wat Local Law 144 precies bedoelt wanneer het stelt dat het het gebruik van AEDT's reguleert die "een aanzienlijke bijdrage leveren aan of een vervanging vormen voor discretionaire beslissingen bij het nemen van beslissingen op het gebied van werkgelegenheid die gevolgen hebben voor natuurlijke personen". De DCWP-regel legt met name uit dat een AEDT aan regelgeving onderworpen is als de tool "een vereenvoudigde output (score, tag, classificatie, rangschikking, enz.) genereert zonder dat er andere factoren in aanmerking worden genomen" waarop de werkgever uitsluitend vertrouwt of waaraan de werkgever buitenproportioneel veel gewicht en waarde toekent.
• Leg uit dat gereguleerde AEDT's binnen een jaar voor hun gebruik moeten worden gecontroleerd op vooringenomenheid. Een dergelijke controle moet onafhankelijk worden uitgevoerd en moet een berekening omvatten van een "selectiepercentage" en een "impactratio" voor elke categorie geslacht, ras en etniciteit, evenals de intersectionele categorieën voor elk van deze groepen. Met andere woorden, de auditor moet het totale aantal sollicitanten in elke categorie afzetten tegen het aantal geselecteerde sollicitanten en bepalen hoe vaak dat type sollicitant wordt geselecteerd. De controle moet jaarlijks worden herhaald gedurende de gehele periode dat de AEDT wordt gebruikt. 
• Specificeert de manier waarop auditresultaten moeten worden gecommuniceerd. Zodra de audit is voltooid, moeten de resultaten op een "duidelijke en opvallende manier" openbaar worden gemaakt op het vacaturegedeelte van de website van de werkgever. Deze resultaten moeten ten minste zes maanden beschikbaar blijven vanaf het moment dat de geauditeerde AEDT voor het laatst is gebruikt. 
• Somt de manieren op waarop een werkgever kandidaten en werknemers moet informeren dat een AEDT zal worden gebruikt in verband met de beoordeling van hun sollicitatie. De kennisgeving kan worden gedaan op de website van de werkgever, in een vacature of per post (onder bepaalde omstandigheden).  

Hoewel de regel van de DCWP in veel opzichten specifiek is, laat deze enkele fundamentele vragen onbeantwoord. Het is bijvoorbeeld onduidelijk hoe een werkgever kan voldoen aan de vereisten voor de publicatie van auditresultaten als hij geen openbare website heeft. Evenzo gaat de regel niet in op de vraag hoe moet worden omgegaan met gegevens van kandidaten die hun geslacht, ras of etniciteit niet zelf rapporteren voor de vereiste onafhankelijke audit. Deze en andere vragen kunnen op korte termijn aanleiding geven tot verwarring en in de toekomst tot rechtszaken. 

Hoe dan ook, het is duidelijk dat werkgevers zich nu moeten gaan voorbereiden op de implementatie van Local Rule 144 door te bepalen of de tools die zij gebruiken om sollicitanten te screenen, in aanmerking komen als AEDT's, en door advies in te winnen bij ervaren arbeidsrechtadvocaten over hoe zij de risico's kunnen beperken in het licht van de onzekerheid die voor hen ligt.