加州拟推《禁止机器人老板法案》限制人工智能系统在雇佣决策中的应用

加利福尼亚州参议员杰里·麦克纳尼提出的新法案SB 7旨在限制和规范人工智能（AI）在招聘、晋升、纪律处分或解雇决策中的应用。 该法案又称《禁止机器人老板法案》，对"自动化决策系统"（ADS）作出广义定义：任何基于机器学习、统计建模、数据分析或人工智能的计算过程，若其生成的简化输出（包括评分、分类或推荐）用于辅助或替代人类自由裁量决策，并对自然人产生实质性影响，即属于该范畴。 自动化决策系统不包括垃圾邮件过滤器、防火墙、防病毒软件、身份与访问管理工具、计算器、数据库、数据集或其他数据汇编。

具体而言，SB 7法案将：

1. 要求雇主在引入自动化决策系统（ADS）前至少30天（若ADS已投入使用，则须在2026年2月1日前），向雇员、承包商及求职者提供一份采用通俗语言撰写的独立通知，声明雇主将在雇佣相关决策中使用ADS。
2. 要求雇主保留所有在用ADS的清单，并将该清单纳入向雇员、承包商和求职者发布的通知中。
3. 禁止雇主在招聘、晋升、纪律处分或解雇决策中主要依赖自动数据处理系统。
4. 禁止雇主使用以下人工智能系统：- 阻碍遵守法律法规或违反法律法规的系统；- 获取或推断受保护身份的系统；- 进行预测性行为分析的系统；- 预测或针对行使合法权利的劳动者采取行动的系统；- 基于个体劳动者数据制定薪酬决策的系统。
5. 允许员工访问收集到的数据并更正错误。
6. 允许员工对使用自动化决策系统作出的雇佣相关决定提出申诉，并要求雇主配备人工审核员。
7. 制定强制性条款，禁止因工人行使SB 7法案赋予的权利而对其进行解雇、歧视或报复。

与SB 7法案类似，加州民权委员会已提出相关法规草案，旨在保护员工免受雇主使用预测性评估工具（ADS）所引发的歧视、骚扰及报复行为。该委员会列举了若干可能基于受保护群体身份歧视员工、承包商或求职者的案例，例如：通过预测性评估衡量技能或性格的培训项目，以及筛选简历或定向投放广告的工具。 若两项提案均通过各自政府机构审议，该拟议法规与SB 7法案将形成协同效力。

该法案仍处于初始阶段，定于2025年4月9日在参议院劳工、公共雇佣与退休委员会举行首次听证会。法案在成为法律前（以及是否能成为法律）可能经历的变动尚不可知，但鉴于其潜在影响范围及其他州效仿的可能性，SB 7法案值得密切关注。