유럽 의회가 EU 인공지능 법안을 효력 발생 단계로 한 걸음 더 가까이 가져감에 따라 최근 이 법안을 둘러싼 논의가 가속화되고 있다.
2023년 6월 14일, 의회는 유럽연합 이사회와의 협상 개시를 표결로 결정했으며, 이 협상은 법안의 최종 형태를 어떻게 할 것인지에 관한 것입니다. 이 표결 이후 유럽의회 의원들은 협상의 핵심 쟁점이 '실시간' 생체 인식 분류와 생성형 인공지능(AI) 및 파운데이션 모델 규제에 집중될 것이라고 강조했습니다. 또한 유럽의회가 미국과의 규제 조화를 유지하려는 노력의 일환으로, 법안 최종안 협상 및 작성 과정에서 국제 기준을 고려할 계획임을 밝혔습니다.
EU 인공지능법 개요
지난 블로그 게시물에서 논의한 바와 같이, 유럽연합(EU) 인공지능법은 2023년 5월 11일 유럽의회 시민자유·사법·내무위원회와 내부시장·소비자보호위원회가 법안 승인을 표결함에 따라 법제화 과정에 한 걸음 더 나아갔습니다. 이어 유럽 의회가 해당 법안에 대한 협상 입장을 채택하기로 표결하여 찬성 499표, 반대 28표, 기권 93표로 통과시켰습니다. 이 표결을 통해 유럽 의회는 이제 유럽연합 이사회와 법안의 최종 형태에 대한 논의 및 협상을 시작했으며, 2023년 말까지 합의에 도달할 수 있기를 기대하고 있습니다.
앞서 설명한 바와 같이, 이 법의 주요 목표는 인공지능에 관한 인간 중심의 법적 체계를 수립하고 인공지능 응용 분야에서 투명하고 안전하며 신뢰할 수 있고 환경 친화적이며 차별 없는 관행을 보장하는 것입니다. 이 법은 인공지능 응용 프로그램의 네 가지 위험 수준을 규정하며 각 위험 수준에 상응하는 규제를 제시합니다. 많은 이들이 '용납할 수 없는 위험'과 '고위험' 수준에 주목하고 있는데, 해당 적용 분야에는 훨씬 더 엄격한 요건과 규제가 적용될 것이기 때문이다. 위험 수준 분류는 초안 이후 변경되지 않았으나, '고위험' 수준에 새로 분류된 용도가 하나 추가되었다: 선거 결과에 영향을 미치기 위한 인공지능 시스템의 사용이다. 그럼에도 불구하고, 의회가 이사회 구성원들과 협상을 진행함에 따라 이 법안은 여전히 수정될 가능성이 있다.
유럽 의회와 유럽 연합 이사회 간 협상 사항
협상 승인 후 기자회견에서 유럽의회 의장과 의원들은 해당 법안의 현행 상태와 이사회와의 잠재적 협상 포인트를 논의했다. '실시간' 생체 인식의 위험 등급 분류에 대해 의회에서 막판 이견이 있었음에도, 의원들은 이를 기본적으로 금지되는 '용납할 수 없는 위험' 등급으로 유지해야 한다고 강조했다. 그러나 잠재적 유괴로 인한 아동 실종이나 테러 공격과 같은 시급한 법 집행 상황에서의 금지 예외에 관한 논의는 여전히 예상된다. 예상되는 논쟁점은 이러한 예외적 긴급 상황에서 실시간 생체 인식 사용에 사법적 승인이 필요한지 여부이다.
또한, 현재 법안 초안에는 위험 분류 방식 외에 생성형 AI와 기초 모델에 대한 별도의 규제 방법이 마련되어 있습니다. 유럽의회 의원들은 생성형 AI 플랫폼과 기초 모델의 본질적 위험이 플랫폼과 모델이 사용되는 맥락을 넘어 모델 구축 방식 자체에 있다고 설명했습니다. 기초 모델이 노출되는 대규모 데이터셋으로 인해, 유럽 의회는 해당 기초 모델을 활용해 생성될 수 있는 방대한 콘텐츠의 불법성과 유해 효과에 대한 우려를 표명했습니다. 이러한 내재적 위험은 법안 초안에서 생성형 AI 및 기초 모델 규제에 대한 현재 접근 방식의 핵심 동인으로 확인되었습니다. 현재 초안의 접근 방식은 시스템이 콘텐츠가 AI 생성된 것인지, 이미지가 딥페이크인지 공개하도록 요구하고, 불법 콘텐츠 생성에 대한 안전장치를 구현하며, 모델 훈련에 사용된 저작권 데이터에 대한 상세 요약 공개를 의무화함으로써 투명성을 높여 소비자 보호에 중점을 두고 있습니다.
EU AI 법안: EU를 넘어
유럽연합(EU) 인공지능법은 인공지능에 관한 최초의 견고한 법적 체계로서 국제적 기준을 설정할 수 있는 역량을 지니며, 유럽 의회 의원들은 법안 초안 작성 과정에서 이를 염두에 두고 접근해 왔습니다. 법안의 인공지능 정의에 대한 논의가 많았으나, 결국 경제협력개발기구(OECD)와 미국 국립표준기술연구소(NIST)의 정의와 일치하는 정의를 채택했습니다. 이 접근 방식의 목적은 국제적 차원에서 인공지능의 조화를 이루고, 인공지능을 개발 및 활용하는 기업들에게 시장 간 더 큰 일관성을 제공하는 데 있습니다. 이 법안은 소비자 권리와 사생활 보호를 최우선으로 하면서도 AI 분야의 혁신을 동등하게 촉진하고자 합니다. 이를 위해 유럽의회 의원들은 스타트업부터 대기업에 이르기까지 AI 개발 주체들이 기술 표준 설정 과정에 참여하도록 하는 방안을 논의했습니다. 이러한 협상과 지속적인 초안 작성 과정에서 EU 입법자들은 규제에 대한 글로벌 합의를 도출하기 위해 다른 민주주의 국가들과의 협력 중요성을 인정하고 있습니다.
EU를 넘어선 규제와 관련하여, EU 인공지능법의 인간 중심적 기본 원칙이 미국에서도 주목받고 있다. 2023년 6월 20일 국가인공지능위원회법(National AI Commission Act) 이 발의된 것이 그 증거다. 이 법안은 양당 및 양원제 입법으로, 현재의 인공지능 규제 접근법을 검토하고 권고안을 마련하며 위험 기반 인공지능 규제 프레임워크를 개발할 국가 위원회 설립을 제안합니다. 비록 국가 인공지능 위원회 법안이 매우 초기 단계에 있지만, 입법에 대한 수요가 증가함에 따라 상당한 지지를 받고 있습니다.
최근 추가 동향으로, 미국 상원의원 마이클 베넷은 인공지능(AI) 규제를 위한 연방 디지털 플랫폼 위원회 설립을 골자로 한 개정 법안을 발의했다. 이 법안은 디지털 플랫폼의 정의를 "주로 알고리즘 프로세스로 생성된 콘텐츠"를 제공하는 기업까지 확대하고, 알고리즘 프로세스의 정의를 "콘텐츠 생성 또는 의사결정을 위한 개인 데이터 활용"까지 포함하도록 확장하는 것을 목표로 한다. 또한 주요 플랫폼에 대한 알고리즘 감사 및 공개 위험 평가를 의무화하는 내용을 담고 있다.
한편, 척 슈머 미국 상원 원내대표는 2023년 6월 21일 '안전한 혁신 프레임워크(SAFE Innovation Framework)'를 발표하며, 인공지능 입법 분야에서 양당이 협력할 네 가지 핵심 원칙을 제시했습니다: 보안, 책임성, 기반 보호, 설명 가능성입니다. 슈머 상원의원은 위원회가 공화당 의원들과 인공지능 전문가들과 협력하여 규제 제안 초안 작성 절차를 시작할 것을 촉구하고 있습니다.
인공지능이 급속도로 진화함에 따라, 이러한 발전과 기술 산업 및 사회 전반에 미칠 잠재적 영향에 주목하는 것이 중요하다. EU 인공지능법과 미국의 이니셔티브는 인공지능에 대한 규제 프레임워크를 구축하기 위한 중요한 단계로, 이 분야의 향후 논의와 행동을 위한 토대를 마련하고 있다.
저자들은 폴리 앤 라드너 LLP의 2023년 여름 인턴인 이사벨라 디엘과 아미트 에티엘의 기여에 깊이 감사드립니다.
