加利福尼亚州率先出台新法规，解决在就业决策中使用人工智能的问题

加州关于在就业中使用基于人工智能（AI）的自动决策系统的最新法规于 2025 年 10 月 1 日生效。这些法规涉及 "自动决策系统 "的使用，法规将其定义为就就业福利做出决策或帮助人类做出决策的计算过程。根据该法规，"自动决策系统可以源自和/或使用人工智能、机器学习、算法、统计和/或其他数据处理技术"。 

该法规规定，根据《加州公平就业和住房法》（FEHA），使用自动决策系统基于受保护类别歧视申请人或雇员的行为是非法的。该法规针对的情况包括：雇主使用自动决策系统对求职者的简历进行初步审核，而自动决策系统排除了所有残疾求职者（或任何其他受保护类别的求职者，如年龄、性别等）。法规提供的一个例子是，自动决策系统会 "分析求职者的语气、面部表情或其他身体特征或行为，[这]可能会基于种族、民族血统、性别、残疾或其他特征对个人造成歧视"。

值得注意的是，该条例规定，"为避免非法歧视而进行的反偏见测试或类似主动努力的证据或缺乏证据的情况，包括此类努力的质量、效力、经常性和范围，此类测试或其他努力的结果，以及对结果的回应 "与根据该条例提出的任何索赔相关。 

该条款为雇主提供了防止因使用自动判定系统而被索赔的路线图。使用自动决策系统的雇主应采取保护措施，例如审核这些系统是否存在偏见，并要求供应商证明此类系统已通过全面测试以检测偏见，且任何偏见问题均已得到充分解决。通常情况下，加利福尼亚州是最早在就业法中涉及此类技术的州之一。我们预计其他辖区也将很快效仿。