인공지능의 활용이 비즈니스와 문화의 모든 측면으로 파고들면서, 정부 규제는 (아마도 너무 느리게) 그 사용에 대한 법적 경계를 구축하기 위해 움직이고 있다.
2022년 5월 12일, 미국 고용기회균등위원회(EEOC)는 '장애인 고용법(ADA) 및 구직자·직원 평가를 위한 소프트웨어, 알고리즘, 인공지능 활용'이라는 제목의 새로운 포괄적 '기술 지원' 지침을 발표했습니다 . 이 지침은 여러 분야를 다루며, 알고리즘과 인공지능(AI)을 정의하고, 고용주가 AI를 활용하는 사례를 제시하며, 공급업체 AI 도구 사용에 대한 고용주의 책임 문제를 다루며, 해당 맥락에서 AI 도입 시 합리적 편의조치를 요구합니다. 또한 합리적 편의조치로 채용 자격이 있음에도 AI가 후보자를 배제하는 '선별 배제' 문제를 해결하고, 장애 관련 및 의료적 질문을 피하기 위한 제한을 요구합니다. 고용주, 구직자, 근로자 모두를 위한 '유망한 관행'을 장려하며, AI 도구 사용 시 발생할 수 있는 장애 차별 위험 사례를 다수 구체적으로 제시합니다.
새로운 지침의 주요 내용은 다음과 같습니다:
고용주는 AI 공급업체 소프트웨어로 인해 장애인법(ADA) 책임에 노출될 수 있습니다:
- 공급업체 소프트웨어의 위험 노출. 직원 또는 채용 지원자를 평가하기 위해 인공지능 기반 의사결정 도구를 도입한 고용주는 해당 기술의 결함에 대해 미국 장애인법(ADA)에 따라 책임을 질 수 있습니다. 인공지능 도구가 제3자 공급업체에 의해 개발되거나 관리된 경우에도, 특히 고용주가 "공급업체에게 고용주를 대신하여 행동할 권한을 부여한" 경우라면 고용주가 책임을 질 수 있습니다.
- 평가 측면과 편의 제공 측면에서. 이는 고용주가 평가 시행 및 합리적 편의 제공 과정에서 AI 공급업체의 조치 또는 무조치로 인한 위험을 관리해야 함을 의미합니다. 장애로 인해 개인이 합리적 편의 제공을 요청했으나 공급업체가 이를 거부할 경우, 고용주는 해당 요청을 인지하지 못했음에도 공급업체의 무조치로 인해 법적 책임을 질 수 있습니다.
- 공급업체 계약서를 확인하십시오. 고용주는 AI 공급업체 계약서의 배상 책임 및 기타 책임 제한 및 배분 조항을 신중히 검토해야 합니다.
장애인 고용 도구, 자격을 갖춘 장애인들을 불법적으로 '선별 배제'할 수 있음:
- 스크린 아웃. 인공지능(AI) 맥락에서 '스크린 아웃'은 장애로 인해 개인이 AI 기반 고용 시험에서 수행 능력이 저하되거나, AI 기반 기준 충족 실패로 인해 후보자가 아예 고려 대상에서 제외될 때 발생할 수 있습니다. 장애인법(ADA)에 따르면, 합리적 편의조치로 직무의 핵심 기능을 수행할 수 있는 개인을 도구가 스크린 아웃한 경우 이는 불법입니다.
- 예시. 인공지능 도구는 손재주가 부족한 사람(키보드 사용), 시각·청각·언어 장애가 있는 사람, 과거 장애 문제로 인해 취업 공백이 있는 사람, 또는 외상 후 스트레스 장애(PTSD)를 앓고 있는 사람(이로 인해 성격 검사나 게임화된 기억력 검사 등의 결과가 왜곡될 수 있음)을 걸러낼 수 있습니다.
지침에 따르면: " 장애는 예를 들어 평가의 정확성을 저하시키거나, 고려되지 않은 특별한 상황을 초래하거나, 개인이 평가에 전혀 참여하지 못하게 함으로써 이러한 [선별 배제] 효과를 가질 수 있다."
- 편향 없음? 일부 AI 기반 의사결정 도구는 "편향 없음"으로 "검증된" 제품으로 마케팅됩니다. 듣기에는 좋지만, 이러한 표기는 성별, 연령, 인종과는 달리 장애를 반영하지 못할 수 있습니다. 신체적, 정신적, 정서적 장애는 삶의 광범위한 영역을 포괄하며, 매우 개인화될 수 있고(필요한 편의 제공 포함), 따라서 편향 없는 소프트웨어 조정으로 해결하기 어렵습니다. 예를 들어 학습 장애는 심각도와 특성이 매우 다양하게 나타나 인간 관찰자에게 종종 발견되지 못합니다. 고용주들은 AI가 더 나은 성과를 낼 수 있다는 보장이 필요할 것입니다.
인공지능 스크린은 불법적인 장애 및 의료 관련 질문을 생성할 수 있습니다:
- 불법적인 문의. AI 기반 도구는 조건부 채용 제안을 승인하기 전에 후보자에 대해 불법적인 "장애 관련 문의"를 생성하거나 "건강검진"의 일환으로 정보를 요구할 수 있습니다.
지침에 따르면: "평가가 구직자나 직원에게 장애 관련 정보를 이끌어낼 가능성이 있는 질문을 하거나, 구직자나 직원이 장애인인지 직접 묻는 경우 '장애 관련 질문'을 포함합니다. 개인의 신체적·정신적 장애나 건강 상태에 대한 정보를 요구하는 경우 '의료 검사'로 간주됩니다. 지원자의 건강 상태를 식별하는 데 사용될 수 있는 알고리즘 기반 의사 결정 도구는 고용 조건부 제안 전에 시행될 경우 이러한 제한을 위반하게 됩니다."
- 간접적 실패. 인공지능 도구를 통한 모든 건강 관련 문의가 "장애 관련 문의 또는 건강 검진"으로 간주되지는 않습니다.
지침에 따르면: "[E]ven if a request for health-related information does not violate the ADA’s restrictions on disability-related inquiries and medical examinations, it still might violate other parts of the ADA. 예를 들어, 성격 검사에서 낙관성에 관한 질문을 하고, 주요 우울 장애(MDD)를 가진 사람이 해당 질문에 부정적으로 답변하여 결과적으로 취업 기회를 상실하는 경우, 해당 검사는 MDD를 이유로 지원자를 '선별 배제'한 것으로 간주될 수 있습니다."
모범 사례: 측정 대상에 대한 명확한 고지 및 합리적 편의 제공 가능성 안내:
고용주가 AI 도구 사용 위험을 관리하기 위해 따를 수 있는 여러 모범 사례가 있습니다. 이 지침에서는 이를 "유망한 실천 방법"이라고 부릅니다. 주요 사항:
- 주제와 방법론을 공개하십시오. 모범 사례로서, 제3자 공급업체가 AI 소프트웨어/도구/애플리케이션을 개발했는지 여부와 관계없이 고용주(또는 그 공급업체)는 직원이나 구직자에게 평가가 무엇을 포함하는지 평이하고 이해하기 쉬운 용어로 알려야 합니다. 즉, AI 도구를 통해 측정하거나 선별할 지식, 기술, 능력, 교육, 경험, 자질 또는 특성을 사전에 공개해야 합니다. 마찬가지로 테스트가 어떻게 진행될지, 키보드 사용, 구두로 질문에 답변하기, 챗봇과 상호작용하기 등 어떤 방식이 요구되는지도 사전에 공개해야 합니다.
- 장애 편의 제공 요청을 초대하십시오. 해당 정보를 통해 지원자나 직원은 장애 편의 제공이 필요하다고 느낄 경우 사전에 의견을 개진할 기회가 더 많아집니다. 따라서 고용주는 이 도구를 활용하여 직원 및 구직자에게 합리적인 편의 제공이 필요한지 여부를 문의하는 것을 고려해야 합니다.
-
- 명백하거나 알려진 장애: 명백하거나 알려진 장애를 가진 직원 또는 지원자가 편의 제공을 요청할 경우, 고용주는 해당 요청에 신속하고 적절하게 대응해야 합니다.
-
- 다른 방법으로 알려지지 않은 장애: 장애가 다른 방법으로 알려지지 않은 경우, 고용주는 의료 기록을 요청할 수 있습니다.
- 합리적 편의 제공. 장애가 확인되면 고용주는 대체 시험 방식을 제공하는 경우라도 합리적 편의를 제공해야 합니다. 바로 이 지점에서 지침이 AI 활용과 진정으로 충돌할 수 있습니다. 이러한 도구가 보편화됨에 따라 대체 시험 방식은 비교적 부적절해 보일 수 있으며, AI 시험을 치른 개인과 기존 방식 시험을 치른 개인 간 잠재적 차별이 발생할 수 있습니다.
지침에 따르면: "합리적 편의 제공의 예로는 특수 장비, 대체 시험 또는 시험 형식, 조용한 환경에서의 작업 허용, 직장 정책에 대한 예외 등이 포함될 수 있습니다."
- 개인건강정보(PHI)를 보호하십시오. 항상 그렇듯이, 편의 제공 요청과 관련하여 취득한 모든 의료 정보는 기밀로 유지되어야 하며, 해당 직원 또는 지원자의 인사 기록과 별도로 보관되어야 합니다.
민간 고용주 부문에서 인공지능(AI)에 대한 의존도가 높아짐에 따라, 고용주들은 이 기술의 의도치 않은 결과를 통제하기 위해 선제적 위험 관리를 확대해야 할 것이다. 법적 기준은 동일하게 유지되지만, AI 기술은 규정 준수의 한계를 시험할 수 있다. 고용주들은 해당 방향으로 최선을 다하는 것 외에도, 공급업체 계약 조건 및 보험 적용 범위와 같은 다른 위험 관리 수단을 면밀히 검토해야 한다.
본 문서는 2022년 여름 인턴 아야 후시니의 도움을 받아 작성되었습니다.