Californië loopt voorop met nieuwe regelgeving over het gebruik van AI bij beslissingen over werkgelegenheid
De bijgewerkte regelgeving van Californië met betrekking tot het gebruik van op kunstmatige intelligentie gebaseerde (AI) geautomatiseerde beslissingssystemen in arbeid is op 1 oktober 2025 van kracht geworden. Deze voorschriften hebben betrekking op het gebruik van "geautomatiseerde beslissingssystemen", die in de voorschriften worden gedefinieerd als computationele processen die beslissingen nemen of menselijke besluitvorming vergemakkelijken met betrekking tot een arbeidsvoordeel. Volgens de voorschriften kunnen "geautomatiseerde beslissystemen worden afgeleid van en/of gebruikmaken van kunstmatige intelligentie, machinaal leren, algoritmen, statistiek en/of andere gegevensverwerkingstechnieken".
De regelgeving maakt het onwettig om een geautomatiseerd beslissysteem te gebruiken dat een sollicitant of werknemer discrimineert op basis van een beschermde categorie onder de Fair Employment and Housing Act (FEHA) in Californië. De regelgeving is gericht op scenario's zoals: een werkgever gebruikt een geautomatiseerd beslissingssysteem om een eerste blik te werpen op de cv's van sollicitanten en het geautomatiseerde beslissingssysteem elimineert alle sollicitanten met een handicap (of in een andere beschermde klasse zoals op basis van leeftijd, geslacht, etc.). Een voorbeeld uit de regelgeving betreft een geautomatiseerd beslissysteem dat "de toon van de stem, gezichtsuitdrukkingen of andere fysieke kenmerken of gedrag [van een sollicitant] analyseert [waardoor] personen op basis van ras, afkomst, geslacht, handicap of andere kenmerken gediscrimineerd kunnen worden".
De regels bepalen met name dat "bewijs, of het gebrek aan bewijs, van anti-bias tests of soortgelijke proactieve inspanningen om onwettige discriminatie te voorkomen, inclusief de kwaliteit, doeltreffendheid, frequentie en omvang van dergelijke inspanningen, de resultaten van dergelijke tests of andere inspanningen en de reactie op de resultaten" relevant is voor elke claim die onder de regels wordt ingediend.
Deze taal biedt een stappenplan voor werkgevers met betrekking tot preventie tegen claims gebaseerd op het gebruik van geautomatiseerde beslissingssystemen. Werkgevers die gebruik maken van geautomatiseerde beslissingssystemen moeten beschermende maatregelen nemen, zoals het controleren van deze systemen op partijdigheid en van leveranciers eisen dat ze certificeren dat dergelijke systemen grondig zijn getest om partijdigheid op te sporen en dat eventuele partijdigheidskwesties voldoende zijn aangepakt. Zoals vaak het geval is, is Californië een van de eerste staten die dit soort technologie aanpakt in het kader van de arbeidswetgeving. We verwachten dat andere rechtsgebieden snel zullen volgen.
