신탁관리자는 인공지능(AI)과 관련된 최근 동향을 인지해야 합니다. 여기에는 새롭게 등장하거나 최근 변경된 주 법률, AI 규제에 대한 주 및 연방 정부의 관심 증가, 그리고 ERISA 소송에서 AI의 역할 등이 포함됩니다. AI가 퇴직연금 계획에 미치는 영향에 대한 논의가 주로 이루어져 왔으며, 이에 대해서는 이전에 여기서 다룬 바 있습니다. 그러나 건강 및 복지 혜택 계획을 포함한 모든 유형의 계획 신탁관리자 역시 최근 AI 발전 동향을 지속적으로 파악해야 합니다.
최근 주 법률 변경 사항
최근 다수의 주에서 인공지능(AI)에 초점을 맞춘 새로운 법률을 제정했으며, 그중 일부는 고용주의 인사 결정 과정을 규제합니다. 주요 사례로는 다음과 같습니다:
- 캘리포니아 – 2024년 캘리포니아주는 인공지능 관련 법안 10건 이상을 제정하여 다음과 같은 주제를 다루었습니다:
- 이름, 주소 또는 생체 인식 데이터가 포함된 데이터셋에 AI를 사용하는 행위;
- 인공지능을 활용하여 환자에게 의료 정보를 전달하는 방법; 그리고
- 의료 치료 및 사전 승인을 위한 인공지능 기반 의사 결정.
캘리포니아의 새로운 인공지능 관련 법률에 대한 추가 정보는 폴리의 클라이언트 알림, '캘리포니아의 최근 인공지능 법률 급증 해독하기'를 참조하십시오.
- 일리노이주 – 일리노이주는 고용주가 의도와 무관하게 차별적 결과를 초래하는 방식으로 고용 활동에 인공지능(AI)을 사용하는 것을 금지하는 법안을 통과시켰다. 이 법에 따라 고용주는 직장 관련 목적으로 AI를 사용할 경우 직원 및 지원자에게 사전 통지를 제공해야 한다.
일리노이주의 새로운 인공지능(AI) 법률에 대한 추가 정보는 폴리 법률사무소의 클라이언트 알림문, 「 일리노이주, 고용 활동에서 인공지능의 차별적 영향으로부터 보호하기 위한 법률 제정」을 참조하십시오.
- 콜로라도 – 2026년 2월 1일부터 시행되는 콜로라도 인공지능법(CAIA)은 고용주가 특정 용도로 인공지능을 사용할 때 "합리적인 주의"를 의무화합니다.
콜로라도주의 새로운 인공지능 법에 대한 추가 정보는 폴리의 클라이언트 알림, '고용 결정 과정에서의 인공지능 규제: 2025년을 향한 전망'을 참조하십시오.
이러한 법률들은 직원 복리후생 제도를 직접적으로 겨냥하지는 않지만, 주 정부가 인사 관행을 광범위하게 규제하는 추세를 반영하며, 인사 결정 과정을 규제하는 것을 목표로 하고, 진화하는 규제 환경의 일부입니다. 2024년에는 수백 건의 추가 주 법안이 제안되었으며, 인공지능 관련 행정 명령도 함께 발표되어 2025년 더 많은 규제가 예고되고 있습니다. 이러한 법률이 직원 복리후생 계획과 어떻게 교차하는지, 그리고 연방 ERISA 우선 적용 원칙이 주 정부의 규제 시도에 적용될 수 있는지 여부에 대한 의문은 여전히 남아 있습니다.
최근 연방 정부의 조치
연방 정부는 최근 특정 의료 서비스 제공 과정에서 차별을 방지하기 위한 지침을 발표했으며, 금융 서비스 산업과 관련된 잠재적 인공지능 규제에 대한 정보 요청서(RFI)를 완료했다.
- 미국 보건복지부(HHS) 민권국 인공지능 차별금지 지침 – HHS는 민권국(OCR)을 통해 최근 "인공지능 및 기타 신기술 활용을 통한 차별금지 보장"이라는 제목의 "친애하는 동료 여러분께" 서한을 발간했습니다. 이 지침은 의료 분야에서 인공지능 및 기타 의사 결정 지원 도구의 사용이 연방 차별 금지 법률, 특히 의료보험법(Affordable Care Act) 제1557조(Section 1557)를 준수하도록 보장하는 것의 중요성을 강조합니다.
제1557조는 연방 재정 지원을 받는 건강 프로그램 및 활동에서 인종, 피부색, 출신 국가, 성별, 연령 또는 장애를 근거로 한 차별을 금지합니다. OCR의 지침은 의료 제공자, 건강 보험 계획 및 기타 적용 대상 기관이 환자에게 차별적 영향을 초래하는 방식으로 인공지능 도구를 사용할 수 없음을 강조합니다. 여기에는 진단, 치료 및 자원 배분과 관련된 결정이 포함됩니다. 고용주 및 플랜 스폰서는 이 지침이 섹션 1557에 해당하는 플랜을 포함한 일부 건강보험 플랜에는 적용되지만, 모든 고용주 후원 건강보험 플랜에는 적용되지 않는다는 점을 유의해야 합니다.
- 재무부, AI 규제 관련 정보요청서(RFI) 발간 – 2024년 미국 재무부는 금융 서비스 부문에서 인공지능(AI)의 활용, 기회 및 위험에 관한 정보요청서(RFI)를 발간했습니다. 이 RFI에는 AI 편향성 및 차별 문제 해결, 소비자 보호 및 데이터 프라이버시, AI 제3자 사용자에 대한 위험 등 여러 핵심 고려 사항이 포함되었습니다 . 이 RFI는 아직 구체적인 규제로 이어지지는 않았으나, AI가 금융 및 직원 복리후생 서비스에 미치는 영향에 대한 연방 정부의 관심을 강조합니다. 미국 대기업 고용주들을 직원 복리후생 계획 후원자 자격으로 대표하는 비영리 협회인 ERISA 산업 위원회는 AI가 이미 퇴직 준비 애플리케이션, 챗봇, 포트폴리오 관리, 거래 실행, 웰니스 프로그램 등에 활용되고 있다고 언급했습니다. 향후 규제는 이러한 분야 및 관련 영역을 대상으로 할 수 있습니다.
인공지능 기반 ERISA 소송
AI를 활용해 플랜 스폰서 및 신탁 관리자에 대한 잠재적 ERISA 청구 건을 식별하고 있습니다. 한 가지 사례로, AI 플랫폼인 Darrow AI는 다음과 같이 주장합니다:
"계획 문서, 규제 서류 및 법원 사건에서 대량의 데이터 분석을 간소화하도록 설계되었습니다. 당사의 기술은 불일치, 신탁 의무 위반 및 기타 ERISA 위반 사항을 정확하게 포착합니다. 당사의 고급 분석 기술을 활용하면 잠재적 청구를 신속하게 식별하고, 그 재정적 영향을 평가하며, 강력한 소송을 구축할 수 있습니다… 퇴직 및 건강 보험 혜택과 관련해 정의를 추구하는 직원들을 효과적으로 대변할 수 있습니다."
또한 이 AI 플랫폼은 뉴스, 증권거래위원회(SEC) 제출 서류, 소셜 네트워크, 학술 논문 및 기타 제3자 출처를 포함한 다양한 데이터 소스를 분석함으로써 중소기업이든 대기업이든 다양한 유형의 고용주에게 영향을 미치는 위반 사항을 찾아낼 수 있다고 주장합니다.
특히 건강 및 복지 혜택 제도 역시 인공지능 기반 ERISA 소송의 주요 관심사로 부상하고 있다. 인공지능 도구는 청구 데이터, 제공자 네트워크, 행정적 결정을 분석하는 데 활용되어 혜택 결정 과정에서 차별적 관행이나 불일치를 식별할 수 있다. 예를 들어 인공지능은 사전 승인 절차에서의 편향 패턴이나 정신건강 평등법 적용 방식의 불일치를 드러낼 수 있다.
이러한 도구의 정교함이 높아짐에 따라 신탁 관리자들의 책임 부담이 커지고 있다. 이제 그들은 잠재적 청구인들이 인공지능을 활용해 그들의 결정을 면밀히 검토하고 전례 없는 정밀도로 운영 계획을 수립할 가능성을 고려해야 하기 때문이다.
신탁 관리자의 다음 단계
이러한 변화하는 환경을 헤쳐 나가기 위해, 신탁 관리자는 AI 관련 위험을 관리하는 동시에 이러한 기술의 이점을 활용하기 위한 선제적 조치를 취해야 합니다:
- 인공지능 도구 평가: 계획 관리, 참가자 참여 및 규정 준수를 위해 활용되는 인공지능 도구에 대한 공식적인 평가를 수행합니다. 이 평가에는 관련 알고리즘, 데이터 소스 및 의사 결정 과정에 대한 검토가 포함되며, 해당 제품이 차별 금지 기준을 준수하는지 평가되었으며 의도치 않게 편향된 결과를 생성하지 않는지 확인하는 평가도 포함됩니다.
- 감사 서비스 제공업체: 계획 서비스 제공업체의 인공지능 활용 현황을 평가하기 위한 포괄적인 감사를 수행합니다. 운영 중인 인공지능 시스템에 대한 상세한 공개를 요청하며, 특히 편향성 완화, 데이터 보안 보장 및 관련 규정 준수 방안에 중점을 둡니다.
- 정책 검토 및 업데이트: 운영 계획 수립 시 인공지능 활용 현황과 차별 금지법 준수 여부를 모니터링하기 위한 내부 정책 및 거버넌스 체계를 수립하거나 개정합니다. 해당 정책은 인공지능 기술의 도입, 모니터링 및 규정 준수와 관련된 지침을 명시하여 신탁 의무와의 부합성을 보장해야 합니다.
- 위험 완화 강화:
- 신탁책임보험: 인공지능 사용으로 인해 발생할 수 있는 잠재적 청구에 대비하기 위해 신탁책임보험의 가입 또는 확대를 고려하십시오.
- 데이터 개인정보 보호 및 보안: AI 도구를 통해 처리되는 민감한 참가자 정보를 보호하기 위해 데이터 개인정보 보호 및 보안 조치를 강화합니다.
- 편향 완화: AI 도구의 편향을 정기적으로 테스트하고 검증하는 절차를 수립하여 차별 금지 법률 준수를 보장한다.
- 제안 요청서(RFP)에 AI 고려 사항 통합: 공급업체 선정 시 제안 요청서에 AI 관련 구체적 기준을 포함하십시오. 이는 공급업체가 주 및 연방 규정 준수 여부를 입증하거나 인증하고 AI 사용에 관한 업계 모범 사례를 준수하도록 요구할 수 있습니다.
- 법률 및 규제 동향 모니터링: 새로운 주 및 연방 AI 규제와 AI 및 ERISA 소송 관련 판례 발전 동향을 지속적으로 파악하십시오. 이러한 변화가 플랜 운영에 미치는 영향을 평가하기 위한 정기적인 법률 검토 절차를 수립하십시오.
- 교육 제공: 신탁 관리자, 행정 담당자 및 관련 직원에게 계획 관리에서 인공지능의 잠재적 위험과 이점, 신기술, 그리고 관련 법률 준수 중요성에 대해 교육합니다. 본 교육은 법적 의무 사항 개요, 인공지능 도입을 위한 모범 사례, 위험 완화 전략을 제공해야 합니다.
- 문서 실사: AI 도구 평가 및 추적을 위한 모든 단계에 대한 포괄적인 문서를 유지 관리하십시오. 여기에는 감사 기록, 공급업체 커뮤니케이션, 내부 정책 업데이트가 포함됩니다. 명확한 문서는 소송 발생 시 중요한 방어 수단이 될 수 있습니다.
- 귀사 건강복지계획에 대한 제1557조 적용 여부 평가: 건강복지계획 신탁관리자는 귀사 건강보험계획이 제1557조의 적용을 받는지, 그리고 OCR(민권국)의 지침이 귀사 운영에 직접 적용되는지 여부를 판단해야 합니다. 적용되지 않는 경우, 그 사유를 확인하고 문서화해야 합니다.
신탁관리자는 특히 규제 불확실성 속에서 직원 복리후생 계획에서 AI의 역할이 확대됨에 따라 경계를 늦추지 않아야 합니다. 선제적 조치를 취하고 강력한 위험 관리 전략을 채택함으로써 위험을 완화하고 현재 및 예상되는 법적 기준을 준수할 수 있습니다. 신탁관리자는 성실성과 투명성에 전념함으로써 AI의 이점을 활용하면서도 계획 참여자의 이익을 보호할 수 있습니다. Foley & Lardner LLP에는 인공지능, 퇴직 계획, 사이버 보안, 노동 및 고용, 금융, 핀테크, 규제 문제, 의료, ERISA 분야의 전문가들이 있습니다. 이들은 신탁관리자들에게 이러한 문제 및 기타 인공지능 관련 사안과 연관된 잠재적 위험과 책임에 대해 정기적으로 자문을 제공합니다.
