인공지능(AI)은 의료 분야에 혁신을 가져올 수 있는 힘을 지니고 있습니다. 종양학 분야에서는 현재 AI를 진단 지원, 예측 분석 및 행정 업무에 적용할 수 있는 기회가 열리고 있습니다.
이 뜨거운 주제는 2024년 9월 암 치료 비즈니스 교류회에서 디지털 혁신(암 특화 AI 활용 사례) 및 첨단 임상 경로 세션에서 논의되었습니다. 이러한 활발한 세션을 통해 비즈니스 사례가 명확해졌지만, AI 기술 개발이 이 핵심 기술에 대한 적절하고 신중한 입법 및 규제 체계 구축을 훨씬 앞지르고 있다는 점을 유의해야 합니다.
병원, 의료 제공자, 보험사 및 제3자 공급업체는 새로운 인공지능(AI) 솔루션을 선정하고 도입할 때 실질적인 조치를 취해야 합니다. 이 중요한 분야를 탐구할 때 염두에 두어야 할 몇 가지 핵심 고려 사항은 다음과 같습니다:
모든 적용 가능한 개인정보 보호 및 보안 기준을 준수하도록 보장하십시오.
인공지능(AI)은 데이터에 의존하며, 종종 AI 솔루션의 성공 여부도 데이터에 달려 있습니다. 거의 모든 AI 솔루션은 방대한 양의 데이터를 필요로 하며, 이는 전자 의료 기록 시스템, 의료 제공자 플랫폼, 환자 포털 등 다양한 출처의 데이터를 통합하고 수집해야 함을 의미합니다. AI 솔루션을 누가 어떻게 사용하고 지원할 것인지 이해하는 것은 의료 기관이 연방 및 주 개인정보 보호 및 보안 법률을 준수하도록 보장하는 데 매우 중요합니다.[1] 의료 서비스 제공자를 위한 AI 솔루션을 개발 및 지원하는 공급업체는 해당 솔루션이 의료 서비스 제공자가 기대하는 기본적인 개인정보 보호 및 보안 모범 사례를 충족하고 준수하도록 보장해야 합니다.
의료 서비스 제공자는 필요한 규제 보호 조치를 평가하기 위해 AI 솔루션의 작동 방식을 세부적으로 이해해야 합니다. 공급업체가 AI 솔루션의 운영 및 지원을 위해 어떤 유형의 데이터를 요구할까요? 환자 정보가 공급업체와 공유될 경우, 최소한 공급자와의 업무 협력 계약(BAA) 체결이 필요할 가능성이 높습니다. 의료 서비스 제공자는 필요한 경우 어떤 유형의 환자 고지 사항이 요구되는지 이해해야 합니다. 일부 주 법률은 개인 식별 정보가 AI 솔루션에 의해 추천이나 피드백 제공 목적으로 사용될 경우 개인에게 고지할 것을 요구합니다. 제공자는 또한 공급업체가 AI 솔루션 훈련이나 경쟁사와의 솔루션 활용 등 자체 목적을 위해 건강 데이터를 사용하려는 징후를 주의 깊게 관찰해야 합니다. 공급업체의 자체 목적(고객 계약 관리와 무관한)을 위한 데이터 사용은 반드시 업무 협력 계약서에 명시적으로 허용되어야 하며, 모든 데이터는 HIPAA 규정에 따라 의료 서비스 제공자의 허가를 받아 비식별화 처리되어야 합니다.
해당 분야의 입법 및 규제 활동을 적극적으로 모니터링해야 합니다. 감독이 강화될 가능성이 높기 때문입니다.
인공지능이 급속도로 발전하는 반면 정부의 규제는 더딘 상태였으나, 앞으로 새로운 법률과 공식 지침이 점점 더 빈번하게 등장할 것으로 예상됩니다. 여러 주에서는 인공지능 활용을 연구하고 모니터링하기 위한 태스크포스와 위원회를 구성했습니다. 3월에는 유타주가'인공지능법'을 통과시켜 2024년 5월 1일부터 규제 대상 직업군에서 생성형 인공지능 사용 시 최초 공개 의무를 규정했습니다. 또한 5월에는 콜로라도주가 "인공지능 상호작용에 대한 소비자 보호" 법안을 통과시켰습니다(2026년 2월 1일 발효 예정, "고위험 인공지능 시스템"을 규제하는 최초의 주 법률).[2] 자세한 내용은 폴리 법률사무소 블로그 '콜로라도주, 소비자 상호작용 보호를 위한 새로운 AI 법안 통과'를 참조하십시오.
인공지능 기반 의료 기기는 도입 전에 승인을 받아야 할 수 있다
공급자는 제안된 AI 기반 솔루션이 규제 승인(예: 의료 기기로서의 승인)이 필요한지 여부를 확인해야 하며, 그렇지 않은 경우 해당 제품의 마케팅을 뒷받침하는 규제 지침과 그러한 진술을 뒷받침하는 적절한 진술 및 보증이 무엇인지 확인해야 합니다. AI는 실수로부터 학습하고 성능을 개선하기 위해 진화하도록 훈련될 수 있지만, 기존의 규제 모델은 AI가 작동하는 정적 프레임워크를 평가하도록 설계되었습니다. 그 결과, 많은 의료 기기가 적절한 규제 승인이 필요할 수 있지만 이를 받지 못하거나, 향후 승인 요건이 적용될 수 있습니다. 미국 식품의약국(FDA)은 AI 솔루션에 대한 보다 포괄적인 평가 방안을 모색 중이며(2024년 8월 기준 950개의 AI/ML 기반 의료기기 승인), 궁극적으로는 의회의 새로운 입법 형태의 지침을 기대할 수 있습니다. 그동안 의료기관은 도입 전 제안된 AI 기반 의료기기에 대해 법률 자문을 통해 철저히 검토해야 합니다.
성실함과 계약을 통해 자신을 보호하기 위한 조치를 취하십시오
최악의 시나리오를 상상해 보십시오. 예를 들어, AI 공급업체가 사이버 보안 공격을 당하는 경우입니다. 또는 AI 제품의 문제와 공급자의 AI 솔루션에 대한 과도한 의존으로 인해 진단을 놓치는 경우도 있습니다. 공급자는 조직의 승인된 AI 사용을 명시한 정책과 절차를 신중하게 시행하고, 공급업체와 AI 솔루션을 철저히 심사하며, 적절한 보호 조항을 포함하도록 계약을 검토하고, 보험 및 기타 책임 보호 장치가 마련되어 있는지 확인해야 합니다. 적절한 실사 영역에는 공급업체가 지적재산권 보호를 위해 적절히 등록했는지 여부, 공급업체가 의료 사기 및 기타 고위험 영역을 방지하기 위해 직원 및 대리인을 심사하는지 여부, 공급업체가 보유한 보험 적용 범위(사이버 보험 포함), 그리고 청구 발생 시 활용 가능한 자원이 무엇인지 등이 포함됩니다. 계약서는 이에 따라 책임을 선제적으로 배분해야 합니다. 많은 공급업체가 표준 계약서를 제공합니다. 이러한 계약서는 다음 법적 조항이 포함되었는지 확인하기 위해 신중하게 검토해야 합니다:
- 기본적인 성과 기대치
- 준수 및 이행에 관한 진술 및 보증
- 기밀성/개인정보 보호 및 보안
- 비유인 의무 또는 기타 제한적 계약 조항(특히 현장에 상주할 공급업체의 경우)
- 배상 조항 – 과실, 계약 위반, 고의적 위법 행위, 사이버 범죄 및 지적 재산권 침해와 관련된 배상 책임을 확인하십시오.
- 책임 한도 – 많은 공급업체들이 수수료에 대해 1~3년 간의 소급 적용 기간으로 상한을 설정하려 한다.
적절한 IT 및 AI 거버넌스 절차 개발 및 시행
명확히 정의된 기업 지배 구조 프레임워크는 AI의 윤리적 구현에 대한 우려를 해소하고, AI 솔루션에 대한 신뢰를 구축하며, 향후 기업의 법적 책임을 최소화하는 데 기여할 수 있습니다. 여기에는 정책 및 절차 수립이 포함되며, AI 솔루션에 접근하거나 사용할 인력에 대한 적절한 교육을 포함하여 조직이 구현 과정 및 향후 운영 과정에서 AI를 검증, 감독 및 모니터링할 수 있도록 해야 합니다. 그러나 AI 기술과 활용 사례가 지속적으로 발전함에 따라 이러한 거버넌스 정책을 지속적으로 검토하고 개선하는 것은 물론, 조직 내 해당 거버넌스 정책 준수 여부를 모니터링하는 것이 중요합니다.
보상 지원 또는 강화 솔루션을 우선시하십시오
인공지능(AI)은 효율성과 혁신을 주도하여 무엇보다도 환자 치료와 결과 개선으로 이어질 수 있지만, 현명한 종양학 진료 기관은 수익성 향상에도 기여할 수 있는 AI 솔루션을 모색할 것입니다. 해당 AI 솔루션 자체가 보험 적용 대상인지, 그리고/또는 공급업체가 보험 적용을 위한 절차를 마련하고 있는지 확인해야 합니다. 해당 제품은 메리토 기반 인센티브 지급 제도(MIPS)와 같은 메디케어·메디케이드 서비스 센터(CMS)의 품질 보고 프로그램 및 상호운용성 촉진 주정부 프로그램에 대한 준수 인증을 받았는가? 국가 보건정보기술 조정관실(ONC) 인증은 보안, 기능성, 기술 요구사항 준수를 확인하는 것으로 CMS에 의해 인정된다.[3]
그러나 AI 솔루션과의 통합 수준에 따라 공급업체는 생성형 AI 솔루션 및 임상 의사 결정 지원 도구에 대한 ONC의 요구 사항을 준수하기 위한 조치를 취해야 할 수 있습니다.
다음 단계
인공지능이 의료 서비스 운영 구조의 핵심 요소로 자리잡음에 따라, 규정 준수, 개인정보 보호 및 보안 프로세스에 대한 위험을 줄이기 위한 실질적인 조치를 취할 수 있습니다. 폴리는 혁신 기술, 의료 및 생명과학, 지적재산권을 포함한 다양한 분야에서 인공지능과 관련된 진화하는 법적·사업적 환경을 면밀히 모니터링하고 있으며,폴리 변호사팀이 지원을 준비하고 있습니다. 문의 사항이 있으시면 본 문서의 저자, 담당 관계 파트너,인공지능(AI) 전문 분야팀또는의료·생명과학 부문에연락주시기 바랍니다.
저자들은 특별 고문 재클린 아코스타와 보스턴 대학교 로스쿨 학생이자 폴리 앤드 라드너 LLP의 2024년 여름 인턴인 프란체스카 카마초의 기여에 감사드립니다.
[1] 많은 주(州)에는 검토해야 할 연방 기준을 초과하는 경우가 많은 개인정보 보호 및 보안 기준이 마련되어 있습니다.
[2] SB205 (인공지능과의 상호작용에 대한 소비자 보호).
[3] ONC는 최근 "의사 결정 지원 중재", "환자 인구통계 및 관찰", "전자 사례 보고"에 대한 개정된 인증 기준과 함께 미국 상호운용성 핵심 데이터(USCDI) 표준의 새로운 기준 버전인 버전 3을 발표했습니다.
