AI技術の進化がここまで進んだ現在、AIが人類全体に及ぼす広範な影響といった崇高な議論が尽きない一方で、一つだけ小さな点については皆が同意できるようだ。職場で採用・解雇・その他の雇用判断にAIモデルを用いることは、控えめに言っても——非常に問題が多いと言える。
最近、AIを利用する雇用主が直面する主要な課題について報告しました。AIモデルへの人間のバイアス組み込みに関する懸念から、急速に進化する連邦規制環境への対応まで多岐にわたります。 同様に、AIを利用する雇用主は、採用プロセスにおけるAIの使用を監視・制限する目的で制定された数多くの州規制についても、常に認識し最新情報を把握しておく必要があります。例えばイリノイ州とメリーランド州では、雇用主が求職者に対し、自身の応募がAIツールによって評価されるかどうかを開示することを義務付ける法律を制定しています。さらに、そのような使用については事前に求職者の同意を得ることも義務付けています。
市当局も規制措置に乗り出したようだ。 今月初め、ニューヨーク市消費者・労働者保護局（DCWP）は、実施規則に関する公聴会と意見聴取のため数度の延期を経て、地方条例144号の施行を開始すると発表した。2021年に可決された同条例は、「自動化された雇用決定ツール」（AEDT）の使用を規制し、こうしたツールの使用前にバイアス監査を義務付けている。 DCWPによる施行は、同局の最終規則に基づき2023年7月5日に開始される予定だ。この新規則の適用は、ニューヨーク市でAI採用ツールを利用する雇用主にとって、さらなる不確実性と懸念の層を加えることになる。また、他の都市や地方政府が追随する可能性が高いことを考慮すると、ニューヨーク市の法律は最終的にその境界をはるかに超えた雇用主に影響を及ぼすかもしれない。
DCWPの実施規則は、7月5日以降に審査対象となる事項や雇用主が地方条例144号に準拠する方法について、詳細な説明（多くの場合具体例付き）を数ページにわたり提供している。雇用主はDCWP規則の細則を確認することが推奨されるが、大まかに言えば、この規則は以下の内容を定めている：
- 地方条例144号が「自然人（個人）に影響を及ぼす雇用決定における裁量的判断を実質的に補助または代替する」AEDTの使用を規制すると規定する文言の真意を明確化する。 特に、DCWP規則は、雇用主が「他の要素を考慮せずに生成される簡略化された出力（スコア、タグ、分類、順位付けなど）」にのみ依存するか、またはそれに過大な重みと価値を与える場合、当該ツールが規制対象となることを説明している。
- 規制対象のAEDTは、使用開始の1年以内にバイアス監査を実施しなければならない。当該監査は独立して実施され、性別・人種・民族カテゴリーおよびこれらのグループの交差カテゴリーごとに「選抜率」と「影響比率」の算出を含めなければならない。 つまり、監査担当者は各カテゴリーにおける応募者総数と選抜された応募者数を比較し、そのタイプの応募者が選抜される頻度を判断しなければならない。監査はAEDTが使用されている全期間にわたり毎年繰り返されなければならない。
- 監査結果の伝達方法を規定する。監査完了後、結果は雇用主のウェブサイト上の雇用情報セクションにおいて「明確かつ目立つ方法」で公開されなければならない。これらの結果は、監査対象となったAEDTが最後に使用されてから少なくとも6か月間、閲覧可能な状態を維持しなければならない。
- 雇用主が、応募者の選考に関連してAEDTを使用することを候補者および従業員に通知しなければならない方法を列挙する。通知は、雇用主のウェブサイト、求人情報、または郵送（特定の状況下）によって提供することができる。
DCWPの規則は多くの点で具体的である一方、いくつかの基本的な疑問には答えられていない。 例えば、公開ウェブサイトを維持していない雇用主が、監査結果の公表要件をどのように遵守できるかは不明確である。同様に、規則は、義務付けられた独立監査の目的で性別・人種・民族を自己申告しない候補者に関連するデータをどのように扱うかについても言及していない。こうした疑問点やその他の問題は、近い将来の混乱や将来の訴訟の温床となり得る。
いずれにせよ、雇用主は今すぐローカルルール144の実施準備を開始すべきである。具体的には、採用候補者を審査する際に使用するツールのうち、AEDT（平均的雇用慣行）に該当するものが存在するかどうかを判断し、先行き不透明な状況下でリスクを軽減する方法について、経験豊富な雇用法顧問と相談することが必要である。
