加利福尼亚州关于在雇佣中使用基于人工智能（AI）的自动化决策系统的更新法规已于2025年10月1日生效。该法规针对"自动化决策系统"的使用作出规定，其中将此类系统定义为：在雇佣福利相关决策中作出决定或辅助人类决策的计算过程。 根据法规规定，"自动化决策系统可能源自并/或运用人工智能、机器学习、算法、统计学及其他数据处理技术"。
该法规规定，使用基于《加州公平就业与住房法案》（FEHA）所保护类别而歧视求职者或雇员的自动化决策系统属违法行为。 该法规针对的情形包括：雇主使用自动化决策系统对求职者简历进行初筛，该系统将所有残疾人（或基于年龄、性别等其他受保护类别）的求职者排除在外。 条例举例说明的自动决策系统案例包括："通过分析应聘者的语调、面部表情或其他生理特征及行为，可能基于种族、国籍、性别、残疾状况等特征实施歧视"。
值得注意的是，该法规规定"反歧视测试或类似主动避免非法歧视措施的证据（或缺乏证据），包括此类措施的质量、有效性、时效性和范围，相关测试或其他措施的结果，以及对结果的应对措施"，均与依据该法规提出的任何主张具有关联性。
该条款为雇主提供了防范基于自动化决策系统使用而引发索赔的行动指南。 使用自动化决策系统的雇主应采取防护措施，例如对系统进行偏见审计，并要求供应商证明该系统已经过全面测试以检测偏见，且任何偏见问题均已得到充分解决。加利福尼亚州一如既往地率先在就业法律框架内规范此类技术。我们预计其他司法管辖区将很快效仿。
