캘리포니아 주지사 개빈 뉴섬은 최근 38건의 법안이 그의 책상에 올라오는 등 인공지능 관련 입법 물결에 직면했다. 논란이 많았던 SB-1047 법안은 거부했지만, 뉴섬 주지사는 9월 내내 인공지능에 초점을 맞춘 10여 건 이상의 다른 법안에 서명하여 법으로 제정했다. 이 법안들은 인공지능이 초래하는 위험부터 딥페이크 포르노의 확산, 사망한 할리우드 배우들의 인공지능 생성 복제본에 이르기까지 인공지능과 관련된 다양한 우려 사항들을 다루고 있다.
캘리포니아주 뉴섬 주지사실은보도자료를 통해 "세계 주요 인공지능 기업 대다수가 위치한 캘리포니아주는 이러한 혁신적 기술을 활용해 시급한 과제를 해결하는 동시에 이들이 초래하는 위험을 연구하고 있다"고 밝혔다.
인공지능 관련 법안 중 서명되어 법으로 제정된 18개 법안은 현재까지 미국에서 가장 포괄적인 법안으로 꼽힌다. 이 새로운 법안들이 다루는 주요 주제를 개괄적으로 살펴보자.
뉴스엄 주지사가 서명한 인공지능 관련 법안
인공지능 훈련 데이터의 투명성
가장 중요한 법률 중 하나는 생성형 AI 제공업체에 투명성 요건을 도입하는 AB-2013입니다. 2026년 시행 예정인 이 법은 AI 기업들이 모델 훈련에 사용된 데이터셋에 대한 정보를 공개하도록 요구합니다. 이 법안은 해당 기업들이 데이터 출처를 공개하고, 데이터 사용 방식을 설명하며, 데이터 포인트 수를 명시하고, 저작권이 있거나 라이선스가 부여된 데이터가 포함되었는지 여부를 공개하며, 데이터 수집 기간을 명확히 할 것을 의무화합니다. 이러한 투명성 강화는 특히 대규모 데이터를 기반으로 훈련되는 AI 시스템에 대한 책임성을 높이기 위해 마련되었습니다.
이 법안에 관한 자주 묻는 질문(FAQ)을 다루는 글은 여기에서 확인할 수 있습니다.
인공지능 위험 관리
캘리포니아 비상사태 관리국(CalOES)이 생성형 AI의 잠재적 위험에 대한 위험 분석을 수행하도록 의무화하는 SB-896 법안이 또 다른 핵심 입법으로 서명되어 법으로 제정되었습니다. 이 법안은 OpenAI, Anthropic과 같은 선도적 AI 기업들과 협력하여 AI가 주 핵심 인프라에 초래할 수 있는 위험을 평가하고, 대규모 사상자 발생 사건으로 이어질 수 있는 잠재적 위협을 분석할 것을 요구합니다. 이러한 선제적 접근은 첨단 AI 시스템이 공공 안전에 미칠 수 있는 예측 불가능한 결과를 완화하는 것을 목표로 합니다.
의료 분야의 인공지능
여러 법안이 의료 현장에서의 인공지능 활용에 초점을 맞추고 있다. AB-3030 법안은 의료 제공자가 환자 소통에 생성형 인공지능을 사용할 경우, 특히 메시지에 임상 정보가 포함된 경우 이를 공개하도록 요구한다. 한편 SB-1120 법안은 의료 제공자와 보험사가 서비스를 자동화하는 방식에 제한을 설정하여, 해당 환경에서 인공지능 도구 사용을 면허를 보유한 의사가 감독하도록 보장한다. 이러한 법률들은 환자 권리를 보호하고 의료 현장에서 인공지능이 적절하게 사용되도록 하기 위한 것이다.
개인정보 보호와 인공지능
캘리포니아주의 개인정보 보호 체계를 (다시 한번) 확대하는 AB-1008 법안은 기존 주 개인정보 보호법을 생성형 인공지능 시스템까지 적용 범위로 확장합니다. 이는 인공지능 시스템이 이름, 주소, 생체 인식 데이터 등 개인정보를 노출할 경우, 해당 데이터를 활용하고 수익화하는 방식에 기업이 제한을 받게 됨을 의미합니다. 목표는 인공지능 시스템이 다른 형태의 데이터 처리 및 활용을 규율하는 것과 동일한 개인정보 보호 기준을 준수하도록 보장하는 것입니다.
인공지능 생성 콘텐츠 워터마킹
SB-942 법안은 또 다른 중요한 법안으로, 널리 사용되는 생성형 인공지능 시스템이 생성한 콘텐츠가 인공지능에 의해 생성되었음을 공개하도록 요구합니다. 이는 콘텐츠 메타데이터에 포함된 '출처 정보(provenance data)'를 통해 이루어질 예정이다. 예를 들어, OpenAI의 DALL-E로 생성된 모든 이미지는 이제 메타데이터에 AI 생성임을 표시하는 태그가 반드시 포함되어야 한다. 일부 AI 기업들은 이미 자발적으로 이러한 워터마크를 추가하고 있지만, 이번 법안은 해당 요건을 공식화하여 대중이 AI 생성 콘텐츠를 더 쉽게 식별할 수 있도록 돕는다.
인공지능(AI)의 법적 정의
또 다른 핵심 법안인 AB-2885는 캘리포니아 주법 내에서 인공 지능에 대한 공식적 정의를 확립한다. 해당 법안에 따르면, AI는 "자율성 수준이 다양하며 명시적 또는 암묵적 목표를 위해 입력된 정보를 바탕으로 물리적 또는 가상 환경에 영향을 미칠 수 있는 출력을 생성하는 방법을 추론할 수 있는 공학적으로 설계되거나 기계 기반의 시스템"으로 정의된다. 이 통일된 정의는 주 내에서 AI 기술을 규제하기 위한 보다 명확한 법적 틀을 마련하기 위한 것이다.
인공지능 교육 이니셔티브
뉴섬 주지사는 또한 교육 분야에서의 인공지능(AI) 역할을 다루는 법안에도 서명했습니다. AB-2876 법안은 캘리포니아 주 교육위원회가 수학, 과학, 역사 등 과목의 교육과정 프레임워크를 개발할 때 AI 리터러시를 고려하도록 요구합니다. 이 법안은 학생들에게 AI의 작동 방식, 한계점, 그리고 기술 사용에 수반되는 윤리적 고려 사항을 가르침으로써 AI가 점점 더 중요한 역할을 하는 미래에 대비하도록 하는 것을 목표로 합니다. 또한 SB-1288 법안은 캘리포니아 교육감들이 작업 그룹을 구성하여 공교육에서 AI가 어떻게 활용되고 있는지 탐구하고 잠재적 기회와 과제를 파악하도록 요구합니다.
인공지능을 활용한 자동 전화
기만적인 AI 생성 자동전화를 해결하기 위해 뉴섬 주지사는 AB-2905 법안을 서명하여 법으로 제정했습니다. 이 법안은 AI 생성 음성을 사용할 경우 자동전화가 이를 공개하도록 요구하며, 2024년 초 뉴햄프셔 유권자들이 조 바이든 대통령의 목소리를 모방한 딥페이크 자동전화에 속은 사건과 같은 혼란을 방지하기 위한 목적이다. 이 법은 정치 및 상업적 맥락에서 AI의 오용을 억제하기 위한 광범위한 노력의 일환이다.
딥페이크 포르노그래피 퇴치
딥페이크 포르노그래피가 심각한 문제로 부상하면서 뉴섬 주지사는 이 문제를 해결하기 위한 여러 법안에 서명했습니다. AB-1831 법안은 기존 아동 포르노그래피 법을 확대해 인공지능 시스템으로 생성된 콘텐츠를 포함하도록 규정합니다. SB-926 법안은 개인을 닮은 인공지능 생성 누드 이미지를 이용해 협박하는 행위를 불법으로 규정하며, SB-981 법안은 소셜 미디어 플랫폼이 사용자가 딥페이크 누드 콘텐츠를 신고할 수 있는 제도를 마련하도록 요구합니다. 플랫폼은 해당 콘텐츠가 조사 중인 동안 일시적으로 차단해야 하며, 딥페이크로 확인될 경우 영구적으로 삭제해야 합니다.
선거 딥페이크
뉴섬 주지사는 또한 AI 생성 딥페이크가 선거에 영향을 미치는 것을 방지하기 위한 일련의 법안에 서명했습니다. AB-2655 법안은 페이스북과 X(구 트위터) 같은 대형 온라인 플랫폼이 선거 관련 AI 딥페이크를 삭제하거나 표시하고, 해당 콘텐츠 신고 채널을 마련하도록 의무화합니다. 플랫폼이 법을 준수하지 않을 경우 후보자와 선출직 공직자는 법적 구제를 요청할 수 있습니다. AB-2839는 유권자를 오도할 수 있는 AI 딥페이크를 게시하거나 재게시하는 소셜미디어 사용자의 행위를 다루며, 허위 정보 유포에 대한 책임을 묻습니다. 또한 AB-2355는 AI로 제작된 정치 광고에 명확한 공개 사항을 포함하도록 요구하여 정치 캠페인의 투명성을 보장합니다.
인공지능과 엔터테인먼트 산업
스크린 배우 조합-미국 텔레비전 및 라디오 예술가 연맹(SAG-AFTRA)이 강력히 지지하는 두 가지 추가 법안은 인공지능(AI)과 관련하여 엔터테인먼트 및 미디어 산업에 새로운 기준을 마련합니다. AB-2602 법안은 스튜디오가 배우의 목소리나 외모를 AI로 생성한 복제본을 제작하기 전에 배우의 허가를 받도록 요구합니다. AB-1836은 유사한 보호 조치를 사망한 연예인에게까지 확대하여, 스튜디오가 디지털 복제본을 생성하기 전에 해당 연예인의 유족으로부터 동의를 확보하도록 요구합니다. 이 법안들은 연예인을 디지털로 재현할 수 있는 AI 기술의 발전에 맞서 배우와 그 유족의 권리를 보호하기 위해 마련되었습니다.
SB-1047 거부권 행사
많은 인공지능 관련 법안이 승인된 가운데, 대규모 인공지능 시스템을 규제하려는 SB-1047 법안은 뉴섬 주지사에 의해 거부되었습니다. 주지사는 거부 서한에서 해당 법안이 대규모 인공지능 모델에만 지나치게 초점을 맞추고 있어 "대중에게 허위의 안전감을 줄 수 있다"고 설명했습니다. 그는 또한 소규모 모델 역시 상당한 위험을 초래할 수 있으므로, 대규모와 소규모 인공지능 시스템을 모두 다루는 보다 유연한 규제 접근 방식의 필요성을 강조했습니다.
2024 드림포스 컨퍼런스에서 세일즈포스 CEO 마크 베니오프와의 대화에서 주지사는 인공지능(AI) 분야에서 입증 가능한 위험과 가설적 위험을 구분하는 것의 중요성을 논의했습니다. 그는 AI와 관련된 모든 잠재적 문제를 해결하는 것은 불가능하지만, 주 정부의 규제 노력은 가장 시급한 과제 해결에 집중할 것이라고 밝혔습니다.
뉴섬 주지사는 또한 인공지능 규제에 대한 자신의 포괄적인 접근 방식을 암시했다. 뉴섬 주지사는 "공론과 대중의 인식 측면에서 다소 과장된 법안이 하나 있는데, 바로 SB-1047 법안이다"라며 "인공지능의 입증된 위험과 가상의 위험은 무엇인가? 모든 문제를 해결할 수는 없다. 우리가 해결할 수 있는 것은 무엇인가? 바로 이것이 우리가 이 문제 전반에 걸쳐 취하고 있는 접근 방식이다"라고 말했다.
기업에 미치는 영향
캘리포니아주의 최근 인공지능 관련 법안 쇄도는 인공지능이 가져오는 기회와 위험 모두에 대응하기 위한 주의 선제적 접근 방식을 반영한다. 개인정보 보호와 교육부터 의료 서비스와 선거 공정성에 이르기까지, 이 새로운 법안들은 미국 내 가장 포괄적인 인공지능 규제 중 일부를 구성한다.
캘리포니아에서 사업을 영위하거나 캘리포니아 주민과 상호작용하는 기업들은 해당 법률 준수를 위해 지금 당장 조치를 취해야 합니다. 캘리포니아에서 사업을 영위하지 않는 기업들도 마찬가지로 이 법률들을 주목하고, 다른 주들도 반드시 따라할 것이 분명하므로 일반적인 주제를 바탕으로 준수 방안을 평가하고 고려하기 위한 조치를 취해야 합니다.
