随着法律法规试图跟上算法招聘工具的发展步伐，雇主需要了解哪些内容
人工智能正在雇主招聘流程中日益普及。用于筛选简历、分析视频面试、预测候选人表现以及优化排程的工具，通常是人力资源技术供应商提供的标准服务。但这些工具的快速采用可能会忽视规范其使用的法律框架。雇主不应将人工智能驱动的招聘工具仅仅视为技术采购，而应将其视为受监管的雇佣实践，此类实践存在诉讼风险，包括以下方面。
差异性影响与算法偏见。根据联邦和各州反歧视法律，人工智能招聘工具容易面临“差异性影响”指控。即使是由带有偏见的训练数据、存在缺陷的模型设计，或是邮政编码、就读院校、通勤距离等所谓“代理”变量所导致的微小算法偏见，也可能产生某些选拔比例，从而在雇主或工具开发者毫无歧视意图的情况下，系统性地使受保护群体处于不利地位。 用于训练人工智能工具的历史数据可能会复制或放大以往的歧视性招聘模式，从而使偏见成为系统性风险，而非偶然风险。正如我们此前所述 ，Mobley诉Workday案以及美国平等就业机会委员会（EEOC）与iTutorGroup达成的和解协议表明，与人工智能相关的就业歧视索赔正在积极地进行诉讼和执法。
残疾人合理便利。根据《美国残疾人法案》（ADA），雇主仍有责任确保第三方人工智能工具不会非法筛选掉残疾人。当人工智能评估方法对残疾申请人造成不利影响时，雇主可能需要提供替代评估方法。仅凭供应商关于该工具“符合ADA要求”的保证，并不能免除雇主应履行的独立法律义务。
“黑箱”与供应商问题。许多人工智能招聘工具作为专有“黑箱”运行，其决策逻辑的透明度有限。然而，当这些工具产生歧视性结果时，承担责任的是雇主，而非供应商。仅靠供应商的保证是不够的；雇主需要能够查阅验证研究、不利影响分析以及审计文件。归根结底，如果招聘决定遭到质疑，雇主应能解释做出该决定的原因。
联邦、州和地方规定各不相同。正如我们此前所撰文所述 ，联邦、州和地方各管辖区正各自独立地采取措施，对人工智能在招聘中的应用进行监管。鉴于相关规定各不相同，且关于统一的联邦指导方针尚存不确定性，雇主必须既要监控自身在招聘中使用人工智能的情况，又要及时了解联邦、州和地方法律法规的最新动态。
面向雇主的实用合规检查清单。 正在使用或考虑使用人工智能招聘工具的雇主 应考虑采取以下步骤：
- 盘点在招聘、筛选、面试和选拔过程中使用的所有人工智能工具，包括嵌入在更广泛的人力资源平台中的工具。
- 要求供应商提供相关文档，包括验证研究、模型方法论、训练数据说明以及不良影响测试结果。
- 应自行开展或委托第三方进行独立的偏见审计和不利影响分析，切勿仅依赖供应商提供的评估结果。
- 在关键决策环节实施有效的人工监督，以确保在采取具有重大影响的雇佣措施之前，对算法生成的结果进行审核。
- 制定替代性安排，确保因残疾而无法使用人工智能驱动工具的申请人能够获得等效的评估方法。
- 根据适用法律法规的要求，提供必要的通知，并在适用情况下征得同意。
- 应保留模型版本、审计结果、验证研究和决策日志的记录，以确保这些记录足以证明符合要求，并能应对索赔。
- 随着联邦、州和地方各级针对人工智能的新的就业法律不断出台，应密切关注各司法管辖区的相关要求。
虽然人工智能招聘工具确实能带来效率和便利性的提升，但随之而来的法律风险同样真实存在。在招聘中使用人工智能最安全的方式，是将可解释性、监督机制和文档记录相结合。 雇主若能理解其工具的工作原理、围绕这些工具建立治理架构，并将合规性作为设计要求，便能够既充分利用人工智能带来的效率优势，又能有效管理诉讼风险。那些将人工智能招聘视为采购决策而非受监管举措的企业，可能会面临执法行动或集体诉讼的风险。
