인공지능 기술의 진화 단계에서, 인류 전체에 대한 인공지능의 광범위한 영향력이라는 고상한 주제에 관한 끝없는 논쟁이 이어지는 가운데, 한 가지 작은 점에 대해서는 모두가 동의할 수 있을 것 같다. 직장 내에서 채용, 해고 및 그 사이의 기타 고용 결정에 개인을 평가하기 위해 인공지능 모델을 사용하는 것은 — 완곡하게 표현하자면 — 위험할 수 있다.
최근 우리는 인공지능을 활용하는 고용주들이 직면할 수 있는 주요 문제점들—인공지능 모델에 인간의 편견이 반영될 수있다는 우려부터 급변하는 연방 규제 환경에 대응하는 것까지—에 대해 보도한 바 있습니다. 마찬가지로, AI를 활용하는 고용주들은 채용 과정에서 AI 사용을 감독하고 제한하기 위해 마련된 수많은 주(州) 규정을 인지하고 최신 정보를 유지해야 합니다. 예를 들어, 일리노이주와 메릴랜드주는 모두 고용주가 지원자의 채용 후보 자격을 AI 도구로 평가할 경우 이를 지원자에게 공개하도록 요구하는 법률을 제정했으며, 이러한 사용에 대해 고용주가 사전에 지원자의 동의를 구하도록 의무화했습니다.
이제 지방 정부들도 규제 조치에 동참하는 모양이다. 지난달 초 뉴욕시 소비자 및 근로자 보호국(DCWP)은 시행 법안에 대한 공청회 및 의견 수렴을 위해 여러 차례 연기한 끝에, 지방법 144호(Local Law 144)의 시행을 시작할 것이라고 발표했습니다. 2021년 통과된 이 법은 "자동화된 고용 결정 도구"(AEDTs)의 사용을 규제하며, 해당 도구를 사용하기 전에 편향성 검사를 받도록 요구합니다. DCWP의 최종 규정에 따라 시행은 2023년 7월 5일부터 시작될 예정이다. 이 새로운 규정의 적용은 뉴욕시에서 AI 채용 도구를 사용하는 고용주들에게 추가적인 불확실성과 우려를 더할 것이다. 또한 다른 도시와 지방 정부들이 종종 그러하듯 이를 따르게 된다면, 뉴욕시 법은 궁극적으로 그 경계를 훨씬 넘어선 고용주들에게도 영향을 미칠 수 있다.
DCWP 시행 규칙은 7월 5일부터 적용될 심사 기준과 고용주가 지방법 144호에 준수할 수 있는 방법에 대해 상세한 설명(종종 예시 포함)을 수 페이지에 걸쳐 제공합니다. 고용주는 DCWP 규칙의 세부 사항을 검토하는 것이 바람직하나, 대략적으로 이 규칙은 다음과 같은 내용을 규정합니다:
- 로컬 법률 144호가 "자연인에게 영향을 미치는 고용 결정에 있어 재량적 판단을 실질적으로 보조하거나 대체하는" AEDT의 사용을 규제한다고 명시할 때의 실제 의미를 명확히 한다. 특히, DCWP 규칙은 AEDT가 "다른 요소를 고려하지 않은 단순화된 결과물(점수, 태그, 분류, 순위 등)"을 생성하고, 고용주가 이를 단독으로 의존하거나 과도한 비중과 가치를 부여하는 경우 규제 대상이 된다고 설명합니다.
- 규제 대상 AEDT는 사용 전 1년 이내에 편향성 심사를 받아야 함을 설명합니다. 해당 심사는 독립적으로 수행되어야 하며, 각 성별, 인종 및 민족 범주와 이들 그룹의 교차 범주별로 "선발률"과 "영향 비율"을 계산해야 합니다. 즉, 감사인은 각 범주의 지원자 총수를 선발된 지원자 수와 비교하여 해당 유형의 지원자가 얼마나 자주 선발되는지 판단해야 합니다. 이 감사는 AEDT가 사용되는 전체 기간 동안 매년 반복되어야 합니다.
- 감사 결과의 공개 방식을 명시합니다. 감사가 완료되면 결과는 고용주 웹사이트의 채용 정보 섹션에 "명확하고 눈에 잘 띄는 방식으로" 공개되어야 합니다. 해당 결과는 감사 대상 AEDT가 마지막으로 사용된 시점부터 최소 6개월 동안 계속 공개되어야 합니다.
- 고용주가 지원자 및 직원에게 채용 평가와 관련해 AEDT가 사용될 것임을 통지해야 하는 방법을 열거합니다. 통지는 고용주 웹사이트, 채용 공고 또는 우편(특정 상황 하에서)을 통해 제공될 수 있습니다.
DCWP 규정은 여러 측면에서 구체적이지만, 일부 기본적인 질문에 대한 답변을 제공하지 않습니다. 예를 들어, 공개 웹사이트를 운영하지 않는 고용주가 감사 결과 공개 요건을 어떻게 준수할 수 있는지 불분명합니다. 마찬가지로, 규정에서는 필수 독립 감사 목적상 성별, 인종 또는 민족을 자진 신고하지 않은 지원자 관련 데이터를 어떻게 처리해야 하는지에 대해서도 다루지 않습니다. 이러한 문제들과 기타 의문점들은 당분간 혼란을 야기하고 향후 소송의 토대가 될 수 있습니다.
어떤 경우든 고용주들은 현재 채용 후보자 심사 도구 중 AEDT(연령, 성별, 인종, 민족, 종교, 신념, 정치적 견해, 사회적 신분, 직업적 지위, 장애, 성별 정체성 또는 성적 지향에 기반한 차별)에 해당하는지 여부를 판단하고, 앞으로 다가올 불확실성에 대비해 위험을 완화하는 방법에 대해 경험 많은 고용 법률 자문과 상담함으로써 지역 규칙 144의 시행을 지금부터 준비해야 함이 분명하다.
