캘리포니아 주지사 개빈 뉴섬은 2024년 9월 29일 SB-1047 법안에 대해 거부권을 행사하며, 해당 법안이 어떤 모델들을 포함하는지에 대한 우려를 제기했다.
2024년 7월 2일, 캘리포니아 주 하원 사법위원회는 상원에서 2024년 5월 21일 통과된 SB-1047 (프런티어 인공지능 모델 안전·보안 혁신법)을 가결했습니다. 이 법안은 현재 인공지능(AI) 환경을 넘어선 공공 안전 및 보안에 대한 새로운 위협의 위험을 억제하는 것을 목표로 하며, 미국 최초의 포괄적 AI 법안으로 널리 인정받는 콜로라도주의 SB205(인공지능 상호작용에 대한 소비자 보호법)의 뒤를 잇는 것이다.
캘리포니아에서 SB1047 법안이 통과되지 않더라도, 소비자 보호에 관심이 있는 다른 주 의회가 규제를 검토할 때 모델이 될 수 있습니다. 구체적인 내용을 살펴보겠습니다:
범위
콜로라도 법안이 사업 분야나 적용 분야에 따라 모델을 규제하는 것과 달리, 본 법안은 복잡성에 기반하여 AI 모델만을 대상으로 합니다. AI 개발자에게 광범위하게 적용하기보다는, 캘리포니아에서 "대상 모델" 또는 "대상 모델 파생물"을 훈련하거나 제공하는 개발자(즉, 기업)에 특화하여 적용합니다.
적용 대상 모델
7월 3일 개정된 이 법안은 "적용 대상 모델"을 "10^26 이상의 정수 연산 또는 부동 소수점 연산(FLOPs)을 수행하는 데 필요한 컴퓨팅 파워를 사용하여 훈련된 인공지능 모델로, 그 비용이 1억 달러(US$100,000,000)를 초과하는 것"으로 정의한다. 이 기준은 바이든 대통령이 '인공지능의 안전하고 신뢰할 수 있는 개발 및 활용'에 관한 행정명령에서 설정한 기준과 동일합니다. 해당 명령에 따르면, 10^26 FLOPs 이상의 연산 능력을 사용하여 훈련된 모든 모델은 상무부 장관의 규제를 받으며 보고 의무가 있습니다.
이 두 수치는 현재 유사한 기준점을 나타내는데, 10^26 FLOPs 성능의 모델을 훈련시키는 데 드는 비용이 약 1억 달러(US$100,000,000)이기 때문이다. 컴퓨팅 성능의 양을 평가하는 것은 컴퓨터가 복잡하고 대규모 작업을 얼마나 효율적으로 처리할 수 있는지에 대한 통찰력을 제공한다. 인공지능(AI) 분야에서 높은 컴퓨팅 성능은 정교한 AI 모델, 특히 딥러닝 알고리즘을 활용한 모델을 훈련시키는 데 필수적이다.
본문 작성 시점 기준으로, 제안된 법안의 계산 능력 범위 내에 속하는 기존 모델은 존재하지 않습니다. 훈련 실행 시 가장 많은 계산 능력을 사용하는 모델은 Gemini Ultra로, 약 5×10^25 FLOPs로 추정되어 현재까지 가장 계산 집약적인 모델입니다. 그러나 AI 기술이 급속히 발전함에 따라, 향후 1년 이내에 10^26 FLOPs 기준을 초과하는 모델이 등장할 것으로 예상됩니다.
해당 법안의 대부분의 조항은 "대상 모델 파생물"에도 적용됩니다. 개정된 법안에서 정의한 바에 따르면, 대상 모델 파생물이란 수정되지 않은 대상 모델의 복제본, 미세 조정 이외의 수정된 사후 훈련을 받은 대상 모델의 복제본, 그리고 10^25 FLOPs의 3배 미만의 연산 능력을 사용하여 미세 조정된 대상 모델의 복제본을 의미합니다.
개발자 제한 사항
개정된 내용에 따르면, 개발자는 해당 모델이 중대한 피해를 유발하거나 가능하게 할 수 있는 부당한 위험이 존재할 경우 해당 모델을 상업적 또는 공개적으로 사용할 수 없습니다. 마찬가지로, 해당 위험이 존재할 경우 해당 모델 또는 해당 모델의 파생물을 상업적 또는 공개적으로 사용할 수 있도록 제공하는 행위 역시 금지됩니다. 그러나 이 법안은 사적 또는 비영리적 사용에 대해서는 언급하지 않습니다. 따라서 이 제한이 업계, 특히 사내 모델을 사용하는 기업들에 어떤 영향을 미칠지는 불분명합니다.
개발자 책임
SB-1047은 해당 모델의 개발자에게 안전을 보장하기 위한 다양한 조치를 시행하도록 요구하며, 이는 다음을 포함한다:
훈련 전
- 행정적, 기술적, 물리적 사이버 보안 보호 조치를 구현합니다.
- 즉각적인 완전한 시스템 종료 기능을 구현한다
- 개발자가 중대한 피해를 초래할 수 있는 부당한 위험을 내포하는 적용 대상 모델 또는 파생 모델을 생성하지 않을 것이라는 합리적인 확신을 제공하는 별도의 서면 안전 및 보안 프로토콜을 수립하고 이를 준수하며, 프론티어 모델 부서에 업데이트된 사본을 제공해야 합니다.
- 연간 안전 및 보안 검토를 실시한다
상업적 또는 공공적 사용 전
- 중대한 피해의 원인을 방지하기 위한 평가를 수행하고 합리적인 안전 조치를 시행한다
추가 업무
- 제3자 감사기관으로부터의 연간 적합성 인증
- 개발자의 통제 하에 있는 해당 모델 및 해당 모델의 파생상품에 영향을 미치는 안전 사고를 72시간 이내에 보고하십시오.
- 제3자가 모델을 사용하거나 파생 모델을 생성하여 중대한 피해를 입히는 것을 방지하기 위한 합리적인 안전장치 및 요건을 마련한다.
컴퓨팅 클러스터 책임
컴퓨팅 클러스터 운영자는 고객이 해당 모델을 훈련하는 데 충분한 컴퓨팅 자원을 활용할 경우 다음과 같은 다양한 조치를 반드시 시행해야 합니다:
- 기본 행정 정보 획득
- 고객이 해당 모델을 배포하기 위해 컴퓨팅 클러스터를 활용할 의도가 있는지 평가하십시오.
- 고객 모델 훈련 또는 운영에 사용되는 모든 리소스에 대한 완전한 중단을 즉시 시행할 수 있는 기능을 구현하십시오.
- 고객의 접속에 사용된 IP 주소와 각 접속의 날짜 및 시간을 기록으로 보관하십시오.
추가 요구 사항
해당 법안은 상용화된 적용 모델을 보유한 개발자와 컴퓨팅 클러스터 운영자에게 투명하고 통일된 공개 가격표를 마련할 것을 요구하며, 가격 결정이나 접근 권한 부여 과정에서 불법적 차별이나 비경쟁적 행위를 해서는 안 된다고 규정합니다.
시행
법무장관은 본 법안에 따라 재량권을 부여받아 민사소송을 제기할 수 있으며, 법원은 금지명령 또는 선언적 구제조치를 포함하되 이에 국한되지 않는 다음과 같은 구제조치를 내릴 수 있다: 수정 명령, 완전한 서비스 중단 시행, 해당 모델 삭제, 손해배상, 변호사 비용 및 소송비용, 또는 법원이 적절하다고 판단하는 기타 구제조치. 또한 본 법안은 개발자가 계약이나 법인 구조를 통해 책임을 회피하는 것을 방지하는 조항을 포함한다.
고발자를 보호하기 위해, 노동 위원장은 또한 이 법안에 따라 노동법 위반을 구성하는 조항을 집행할 재량권을 부여받습니다.
이 법안은 또한 프론티어 모델 부서를 신설하고, 해당 기관이 법령에 따라 다음 사항에 대한 재량권을 부여받도록 할 것입니다:
- 인증 보고서를 검토하고 요약된 결과를 공개적으로 발표한다
- 법무장관에게 잠재적 위반 사항에 대해 조언하다
- 오픈소스 인공지능에 대한 규제 제정 및 적용 대상 모델의 부당한 위험 방지
- 모범 사례에 대한 인증 제도 수립
- 안전 보고서 발행
- 인공지능 안전 사건 중 비상사태를 구성할 가능성이 있는 범주에 대한 지침을 발표하고, 해당 사건 발생 시 캘리포니아 주지사에게 조언한다.
프론티어 모델 부문은 법안에서 제안된 5인 위원회인 프론티어 모델 위원회의 직접 감독 하에 운영될 것이다.
비즈니스에 미치는 영향
개정된 내용에서 주목해야 할 핵심 수치는 1억 달러의 훈련 비용이다. 이 달러 금액은 법률에 고정되어 있는 반면, 계산 능력의 기준치는 프론티어 모델 부서에서 조정할 수 있다. 또한 모델 훈련 비용을 낮추는 혁신으로 인해 1억 달러로 구입할 수 있는 계산 능력의 양이 시간이 지남에 따라 증가할 것으로 예상된다.
이 법안이 통과될 경우 기업에 여러 가지 영향을 미칠 수 있습니다. 프런티어 모델 개발사들은 이 법안이 부담스러울 수 있습니다. 생성형 AI 분야에서 선도적인 개발사들은 광범위한 감독을 받게 될 것으로 예상되며, 이는 신규 모델 출시 속도에 상당한 영향을 미칠 수 있습니다. 또한, 제3자 개발자에게 모델 사용권을 부여하려는 규제 대상 개발자들은 제3자 개발자가 모델을 재훈련하여 위험한 기능을 갖도록 할 수 없도록 보장함으로써 책임을 회피하기 위한 필요한 예방 조치를 취해야 할 것입니다. 이 법안이 통과될지 여부는 해당 개발자들이 규제가 덜한 주로 사업장을 이전할지 여부에 영향을 미칠 수 있습니다. 그러나 설령 이전하더라도 바이든 대통령의 행정 명령에 따른 규제는 여전히 적용될 것입니다.
반면, 많은 개발자들은 이 법안의 영향을 받지 않을 것이다. 앞서 언급했듯이, 현재 가장 진보된 모델들조차 규제 기준을 충족하지 못하며, 기존 기술로 개발 가능한 솔루션들은 널리 보급되어 있다. 예를 들어, 컴퓨터 비전 애플리케이션을 위한 독립적으로 개발된 딥러닝 모델부터 얼굴 인식을 위한 미세 조정된 신경망에 이르기까지, 훈련 비용이 10만 달러 미만인 모델들이 다수 존재한다. 개발자들이 신경망의 다양한 응용 분야를 계속 탐구함에 따라, 충분히 낮은 계산 비용으로 수익을 낼 수 있는 사례를 다수 발견할 가능성이 높습니다. 그러나 기업과 개발자들은 AI 모델의 급속한 발전 속도를 염두에 두고, 가장 계산 집약적인 모델의 사용 사례를 경제적 타당성이 확보되는 시점에 재평가해야 합니다.
규제를 우려하는 개발자들은 비용 및 계산 능력 한도를 초과하지 않으면서도 우수한 모델을 개발할 수 있는 다양한 옵션을 보유하고 있습니다. 예를 들어, 해당 법안은 훈련 데이터 품질 향상에 투자하는 비용을 고려하지 않습니다. 훈련 데이터 품질을 개선함으로써 규제에 근접한 개발자들은 한도를 초과하지 않으면서도 정확도를 크게 향상시킬 수 있습니다. 또한 기존 모델을 미세 조정하는 것은 비즈니스 내에서 AI 솔루션을 구현하려는 많은 기업들에게 실행 가능한 해결책이 될 수 있습니다.
개발자와 배포자 모두 전국 각 주의 계류 중인 입법안을 지속적으로 모니터링해야 합니다. 현재 전국적으로 400건 이상의 인공지능 관련 법안이 활발히 논의 중입니다. 해당 법안이 통과되지 않더라도 유사한 법안이 다른 주에서 통과될 가능성이 있습니다.
본 기사에 기여해 주신 폴리 보스턴 사무소의 여름 인턴 변호사인 애덤 룬드퀴스트에게 특별히 감사드립니다.
