加利福尼亚州州长加文·纽森签署了两项关于人工智能在就业领域应用的新法案，这些法案将于2027年1月1日起生效。这些法案将对雇主与雇员关系中人工智能决策的使用进行限制和监管。
SB 947——《禁止机器人老板法案》
SB 947 是今年版本的《禁止机器人老板法案》。去年，纽森州长否决了一项《禁止机器人老板法案》草案，该草案原本要求雇主在所有与就业相关的决策中使用自动化决策系统（ADS）时必须提前通知，并禁止雇主在招聘、晋升、纪律处分和解雇等决策中主要依赖人工智能。 自动化决策系统（ADS）包括“任何源自机器学习、统计建模、数据分析或人工智能的计算过程，该过程会产生简化输出结果（包括评分、分类或建议），用于辅助或替代人类的自由裁量决策，并对自然人产生实质性影响。”
今年的版本——即纽森州长已签署的SB 947号法案——适用范围更为狭窄。根据SB 947号法案，雇主不得利用ADS来：
- 妨碍遵守或违反任何联邦、州或地方的劳动、安全、就业或民权法律；
- 根据《政府法典》第12940条，推断出员工的受保护身份；
- 预测并针对行使合法权利的员工采取不利措施；
- 仅基于以下理由作出纪律处分或解雇决定 仅 于一份ADS；或
- 对行使自身权利或协助执行SB 947法案的员工进行报复。
如果雇主在作出纪律处分或解雇决定时主要依赖ADS，则必须由人工审核员对该决定进行核实。如果人工审核员无法核实该决定，雇主不得将ADS的输出结果用于纪律处分或解雇决定。 例如，如果雇主利用人工智能审查员工考勤记录，且人工智能的输出结果显示某员工存在长期旷工问题，则在对该员工实施纪律处分或解雇之前，必须由人工审核该输出结果。如果人工审核人员根据对员工档案的审查认定，该员工并不存在长期旷工问题，而是处于受保护的休假期间，则雇主不得将人工智能的输出结果作为实施纪律处分或解雇的依据。
此外，如果雇主主要依靠自动化决策系统（ADS）作出纪律处分或解雇决定，则雇主必须应要求提供关于该系统在作出解雇决定过程中所使用的员工数据的“有意义且客观的描述”。此类描述必须对其他可识别个人的个人信息进行匿名处理。
此外，一旦雇主在作出纪律处分和解雇决定时主要依赖自动决策系统（ADS），并在向员工告知该决定后，必须提供一份“使用后书面通知”。该通知必须是一份独立的文件，采用通俗易懂的语言撰写，且使用与其他向员工提供的常规沟通相同的语言。通知必须以易于阅读的格式提供，例如电子邮件或超链接。 该通知必须说明以下内容：(1) 雇主主要依据ADS作出纪律处分或解雇决定；(2) 有人工审核并核实了ADS的输出结果；(3) 员工可联系的相关人员的联系方式，该人员可就该决定提供更多信息，并向员工说明其相关权利；以及 (4) 声明雇主不得因员工行使权利而对其进行报复。
SB 951——《加州工人预警法》（Cal/WARN）技术替代通知
SB 951 在现行《加州工人调整和再培训通知法》（Cal/WARN）要求的基础上进一步规定。现行法律要求，在受该法管辖的经营场所（过去12个月内雇员人数达75人或以上）进行大规模裁员（30天内裁员50人或以上）、搬迁或解雇的雇主，须在解雇前60天提供书面通知。 现在，如果大规模裁员、搬迁或解雇完全或主要由人工智能或其他自动化技术取代或自动化岗位所导致，通知中必须提供以下具体信息：
(1) 主要因自动化而裁减的员工人数、类别或职业以及工作地点；
(2) 被替代的工人中将被自动化取代的岗位职责；以及
(3) 实质上导致该岗位被取代的人工智能系统或其他技术的具体类别或类型。
该通知还必须注明：“本通知涉及技术替代。”
雇主现在可以采取哪些措施
- 对贵公司在纪律处分和解雇方面使用人工智能的情况进行审计。确认这些技术未被用于任何禁止用途。
- 确保在纪律处分和解雇决定中由人工审核人员参与。针对主要由人工智能做出的决定，应准备相关通知。
- 对于主要依赖人工智能输出结果的纪律处分和解雇决定，应指定一名人工审核人员。应指定一名负责人，供员工就人工智能输出结果及其相关权利事宜进行咨询。
- 如果您正因自动化而考虑进行大规模裁员，请在通知中包含加利福尼亚州/《工人裁员通知法》（WARN）的新规定。
