2024년 7월 11일, 뉴욕주 금융서비스국(DFS)은 보험업 서신 제7호(2024)(서신 제7호)를 발간하여 보험 인수 및 가격 결정에 인공지능(AI)을 활용하는 것과 관련된 지침을 채택했습니다. 이 지침은 보험사가 AI 위험 관리를 위한 거버넌스 체계를 수립·시행할 것을 요구하며, 여기에는 이사회, 고위 경영진 및 자격을 갖춘 인력의 감독이 포함되어야 합니다. 서한 제7호 발표 보도자료에서 DFS 국장 에이드리언 해리스는 이 서한의 목적을 "보험 분야 AI 도입이 시장 안정성을 보호하는 동시에 불법적·불공정한 차별을 초래한 체계적 편향을 지속하거나 증폭시키지 않도록 보장하는 것"이라고 설명했습니다.
제7호 서한의 지침 요약 및 주요 준수 사항
제7호 서한을 통해 DFS는 뉴욕주에서 보험을 인수할 수 있는 권한을 부여받은 보험사, 제43조 법인, 건강유지조직(HMO), 허가받은 형제상호부조회, 그리고 뉴욕주 보험 기금(이하 총칭하여 "보험사")에 대해 외부 소비자 데이터 및 정보원(ECDIS), 인공지능 시스템(AIS), 그리고 보험 계약 인수 및 가격 책정에 활용되는 기타 AI 예측 모델의 개발 및 관리와 관련된 지침을 제공하고자 합니다. (이하 총칭하여 "보험사")를 대상으로, 보험 및 연금 계약의 인수 및 가격 책정에 활용되는 외부 소비자 데이터 및 정보원(ECDIS), 인공지능 시스템(AIS), 기타 AI 예측 모델의 개발 및 관리와 관련하여 지침을 제공하고자 합니다.
공정성 문제 해결
ECIDS 및 AIS의 사용은 보험사에게 유익할 수 있으나, DFS는 이러한 기술의 사용이 불평등을 강화 및 악화시키고 부정확하거나 자의적, 변덕스럽거나 부당하게 차별적인 결과의 위험을 증가시킬 수 있다는 점을 우려합니다. 이러한 모든 요소는 취약 계층 및 개인에게 불균형적으로 영향을 미치거나 뉴욕 보험 시장을 훼손할 수 있습니다. 특히 우려되는 부분은 ECDIS의 출처, 정확성 및 신뢰성입니다. 출처가 DFS의 규제 감독 대상이 아닐 경우 더욱 그러하며, 취약 계층 개인 및 지역사회에 대한 불균형적 영향을 강화하고 증폭시킬 수 있는 AIS의 자체 학습 행동도 문제입니다. 따라서 보험사는 이제 인수 및 가격 책정에 활용되는 ECDIS 및 AIS가 일반적으로 인정된 보험계리 기준에 부합함을 입증할 수 있어야 하며, 사용된 변수와 피보험자의 관련 위험 간에 명확하고 경험적이며 통계적으로 유의미하고 합리적이며 부당하게 차별적이지 않은 관계를 입증해야 합니다.
보험사가 인수 또는 가격 책정에 ECDIS 또는 AIS를 활용하기 위해서는, AI로부터 도출된 인수 및 가격 책정 지침이 보험법을 위반하지 않는다는 점을 포괄적인 평가를 통해 입증해야 합니다. 이러한 포괄적 평가는 최소한 다음 세 단계를 포함해야 합니다:
- ECDIS 또는 AIS 사용이 유사한 상황에 있는 피보험자 또는 보호 대상 피보험자에 대한 보험 인수 또는 가격 책정에 불균형적인 불리한 영향을 미치는지 평가하십시오.
- 동일한 상황에 있는 피보험자에게 차등적 효과가 발생하는 것에 대해 합법적이고 공정하며 타당한 설명이나 근거가 있는지 평가하십시오.
- 차별성이 낮은 대체 변수 또는 방법론을 위한 검색 및 분석을 수행하고 이를 적절히 문서화하는 것.
기업 지배 구조의 영향
뉴욕주 규정집 제11편 제90.2조에 따라, 보험사는 그 성격, 규모 및 복잡성에 적합한 기업 지배 구조 체계를 갖추어야 합니다. 이러한 체계는 서한 제7호의 취지에 따라 보험사의 인공지능(AI) 활용에 대한 강력한 감독을 제공해야 합니다. 해당 감독은 각 보험사의 이사회가 수행하며, 거버넌스 체계는 AI 활용과 관련된 명확한 책임 소재를 규정하고 고위 경영진이 AI가 보험 산업에 미치는 전반적 영향을 충분히 이해할 수 있도록 해야 합니다. 제7호 서한은 또한 AI를 사용하는 보험사가 해당 기술의 개발 및 관리를 서면 정책 및 절차로 공식화해야 한다고 규정합니다. 이는 급변하는 시장을 반영하고 업계 모범 사례에 부합하도록 보험사의 지배 기관 또는 고위 경영진(위임된 경우)이 최소 연 1회 검토 및 승인해야 하는 "생생한" 문서여야 합니다.
서면 정책 및 절차 외에도, 보험사는 내부 개발 또는 제3자를 통한 모든 AI 사용과 관련된 포괄적인 문서를 유지해야 합니다(11 NYCRR 243에 따라). 보험사는 AIS 수명 주기의 모든 단계 및 종합적으로 관련 위험을 관리해야 하며, 이는 기존 위험 관리 기능 내에서 또는 독립적인 프로그램의 일환으로 별도로 수행될 수 있습니다. 11 NYCRR § 89.16에 따라 보험사는 이미 자산 보호, 통제 효과성 및 효율성 평가, 정책 및 규정 준수 평가를 위해 필요한 일반적·특정적 감사, 검토 및 테스트를 수행할 내부 감사 기능을 보유해야 합니다. 새로운 지침은 ECDIS 및 AIS 사용에 대해 내부 감사 기능이 적절히 조정될 것을 요구합니다.
보험사는 보험 인수 및 가격 책정에 활용하는 제3자 공급업체의 도구에서 ECDIS 또는 AIS가 어떻게 사용되는지 이해해야 하며, 해당 도구가 모든 법적 및 규제 요건을 충족하도록 보장할 책임이 있습니다. 보험사는 제3자 ECDIS 또는 AIS의 취득, 사용 또는 의존과 관련하여 문서화된 기준, 정책, 절차 및 규정을 수립해야 합니다. 또한 보험사는 자체 AIS에서 확인되었거나 제3자 공급업체에 보고된 부정확한 정보를 시정하고 제거하기 위한 절차를 마련해야 합니다.
투명성이 핵심이다
보험사는 잠재적 피보험자에게 인수 또는 가격 책정 과정에서 ECDIS 또는 AIS를 사용하는 경우 이를 공개해야 합니다. 공개 내용에는 다음이 포함되어야 합니다: (i) 보험사가 인수 또는 가격 책정 과정에서 AIS를 사용하는지 여부; (ii) 보험사가 외부 공급업체(예: ECDIS를 통해)로부터 획득한 개인에 관한 데이터를 사용하는지 여부; (iii) 해당 개인이 인수 또는 가격 책정 결정의 근거가 된 특정 데이터에 관한 정보를 요청할 권리가 있으며, 그러한 요청을 위한 연락처 정보가 포함되어야 합니다. 보험 가입 거절, 보장 범위 제한, 보험료 차등 적용 또는 기타 불리한 보험 인수 결정 시, 보험사 또는 잠재적 보험 가입자에게 제공되는 사유에는 보험사가 결정을 내린 근거가 된 모든 정보에 대한 세부 사항이 포함되어야 합니다. DFS는 이제 AIS의 핵심 요소 및 AIS가 의존하는 외부 데이터 소스(ECDIS 출처 여부와 무관)를 소비자에게 적절히 공개하지 않는 행위가 보험법에 따른 불공정 거래 관행에 해당할 수 있다는 입장을 취하고 있습니다.
저희가 도와드리겠습니다
저희 법률팀은 변화하는 규제 환경을 헤쳐나가는 데 도움을 드리기 위해 존재합니다. 다음과 같은 분야에서 지원을 제공합니다:
- 영향 평가: 신규 규정이 기존 전자해상도상항법시스템(ECDIS) 또는 인공지능(AI) 시스템에 미치는 영향 평가.
- 준수 절차: ECDIS 및 AIS 분석을 위한 준수 절차 개발.
- 거버넌스 프레임워크 개발: ECDIS 및 AI 감독을 위한 견고한 거버넌스 프레임워크 구현.
- 소비자 공개: 보험 결정 시 전자해상정보시스템(ECDIS) 또는 인공지능(AI) 사용과 관련하여 명확하고 간결한 소비자 공개문서 작성.
이러한 요구사항을 선제적으로 해결함으로써 귀사는 서한 제7호 및 기타 적용 가능한 DFS 요건을 지속적으로 준수하고 규제 조치 위험을 최소화할 수 있습니다. 보험업에서 전자 데이터 활용 및 인공지능(AI)의 새로운 시대를 헤쳐나가는 데 대한 추가 지침이 필요하시면 언제든지 문의해 주십시오.
