カリフォルニア州のギャビン・ニューサム知事は最近、AI関連の法案が相次いで提出され、38件の法案が知事の机に届いた。議論の的となったSB-1047を否決したものの、ニューサム知事は9月中にAIに焦点を当てた10件以上の法案に署名し、成立させた。これらの法案は、AIがもたらすリスクから、ディープフェイクポルノの増加、亡くなったハリウッド俳優のAI生成クローンに至るまで、人工知能に関連する様々な懸念事項に対処するものだ。
「世界の主要なAI企業の大半が拠点を置くカリフォルニア州は、これらの変革的な技術を活用して差し迫った課題の解決に取り組むと同時に、それらがもたらすリスクを研究している」とニューサム知事の事務所はプレスリリースで述べた。
AI関連法案のうち、18件が米国でこれまで制定された中で最も包括的なものとして際立っている。以下に、これらの新法がカバーする主要テーマの概要を示す。
ニューサム知事が署名したAI関連法案
AIトレーニングデータの透明性
最も重要な法律の一つがAB-2013で、生成AIプロバイダーに対する透明性要件を導入する。2026年に施行予定のこの法律は、AI企業に対し、モデル訓練に使用したデータセットに関する情報の開示を義務付ける。 この法律では、企業がデータの出典を明示すること、データの使用方法を説明すること、データポイントの数を示すこと、著作権保護データやライセンスデータが含まれるか否かの開示、およびデータ収集期間の明確化が義務付けられる。この透明性向上は、特に大規模データに依存するAIシステムに対し、より高い説明責任を求めることを目的としている。
この法律に関するよくある質問（FAQ）を扱った記事はこちらでご覧いただけます。
AIリスク管理
もう一つの重要な法案として成立したSB-896は、カリフォルニア州緊急事態管理局（CalOES）に対し、生成AIの潜在的な危険性に関するリスク分析の実施を義務付けるものである。 この法律は、OpenAIやAnthropicといった最先端AI企業との連携を義務付け、AIが州の重要インフラに及ぼすリスクを評価するとともに、大量死傷事故につながる可能性のある脅威を評価することを求めている。この先制的な取り組みは、高度なAIシステムが公共の安全に及ぼす予測不可能な影響を軽減することを目的としている。
医療における人工知能
複数の法案が医療現場におけるAIの活用に焦点を当てている。AB-3030は、医療提供者が患者とのコミュニケーションに生成AIを使用する場合、特にメッセージに臨床情報を含む場合には開示を義務付ける。一方、SB-1120は医療提供者や保険会社がサービスを自動化する方法に制限を設け、これらの環境におけるAIツールの使用を免許を持つ医師が監督することを保証する。これらの法律は患者の権利を保護し、医療現場でAIが適切に使用されることを目的としている。
プライバシーとAI
カリフォルニア州のプライバシー枠組みを（再び）拡大するAB-1008法案は、既存の州プライバシー法を拡張し、生成AIシステムを対象に含める。これにより、AIシステムが氏名・住所・生体認証データなどの個人情報を開示した場合、企業はそのデータの利用方法や収益化に制限が課される。目的は、AIシステムが他のデータ処理・利用形態と同様のプライバシー保護を遵守することを保証することにある。
AI生成コンテンツへの透かし処理
SB-942は、もう一つの重要な法案として成立したもので、広く利用されている生成AIシステムに対し、生成したコンテンツがAIによって作成されたものであることを開示することを義務付ける。 これはコンテンツのメタデータに埋め込まれた「出所データ」を通じて行われる。例えばOpenAIのDALL-Eが生成した画像には、AI生成であることを示すメタデータタグが必須となる。既に自主的にこうした透かしを追加しているAI企業もあるが、本法は要件を正式に定め、一般市民がAI生成コンテンツをより容易に識別できるようにする。
人工知能の法的定義
もう一つの重要な法案であるAB-2885は、カリフォルニア州法において人工知能（AI）の正式な定義を確立する。同法案によれば、AIは「自律性のレベルが異なり、明示的または暗黙的な目的のために、受け取った入力から物理的または仮想的環境に影響を与える出力を生成する方法を推論できる、設計されたシステムまたは機械ベースのシステム」と定義される。この統一的な定義は、州内のAI技術を規制するためのより明確な法的枠組みを構築することを目的としている。
AI教育イニシアチブ
ニューサム知事はまた、教育におけるAIの役割に関する法案に署名した。AB-2876は、カリフォルニア州教育委員会に対し、数学、科学、歴史などの教科のカリキュラム枠組みを策定する際にAIリテラシーを考慮するよう義務付ける。この取り組みは、AIの仕組み、限界、技術利用に伴う倫理的考慮事項を教えることで、AIがますます重要な役割を果たす未来に向けて学生を準備することを目的としている。 さらに、SB-1288はカリフォルニア州の教育長に対し、公立教育におけるAIの活用状況を調査し、潜在的な機会と課題を特定するための作業部会を設置することを義務付けている。
AIを利用した自動音声電話
ニューサム知事は、AI生成による詐欺的な自動音声電話の問題に対処するため、AB-2905法案に署名し法律として成立させた。 この法案は、AI生成音声を使用する自動音声通話を明示することを義務付けており、2024年初頭にニューハンプシャー州の有権者がジョー・バイデン大統領の声を模倣したディープフェイク自動音声通話に誤認させられた事件のような混乱を防ぐことを目的としている。この法律は、政治的・商業的文脈におけるAIの悪用を抑制する広範な取り組みの一環である。
ディープフェイクポルノ対策
ディープフェイクポルノが深刻な問題として浮上する中、ニューサム知事はこの問題に対処する複数の法案に署名した。AB-1831は既存の児童ポルノ関連法を拡大し、AIシステムによって生成されたコンテンツも対象に含める。SB-926は、AI生成の本人そっくりなヌード画像を用いた脅迫を違法とする。一方SB-981は、ソーシャルメディアプラットフォームに対し、ユーザーがディープフェイクヌードを報告できる仕組みの構築を義務付ける。プラットフォームは調査中、該当コンテンツを一時的にブロックし、ディープフェイクと確認された場合は永久に削除しなければならない。
選挙ディープフェイク
ニューサム知事はまた、AI生成のディープフェイクが選挙に影響を与えるのを防ぐための一連の法律に署名した。AB-2655は、FacebookやX（旧Twitter）などの大規模オンラインプラットフォームに対し、選挙関連のAIディープフェイクを削除または表示し、そのようなコンテンツを報告するチャネルを設けることを義務付けている。プラットフォームが法律を遵守しない場合、候補者や選出された公職者は法的救済を求めることができる。AB-2839は、有権者を誤導する可能性のあるAIディープフェイクを投稿または再投稿するソーシャルメディア利用者の行為に対処し、虚偽情報の拡散に対する責任を課す。さらにAB-2355は、AIを使用して作成された政治広告に明確な開示を義務付け、政治キャンペーンの透明性を確保する。
AIとエンターテインメント産業
スクリーン・アクターズ・ギルド・アメリカン・フェデレーション・オブ・テレビジョン・アンド・ラジオ・アーティスツ（SAG-AFTRA）が強く支持する追加の2つの法律は、AIに関連するエンターテインメントおよびメディア業界の新たな基準を確立する。AB-2602は、スタジオが俳優の音声や肖像のAI生成複製を作成する前に、俳優の許可を得ることを義務付ける。AB-1836は同様の保護を故人となったパフォーマーにも拡大し、スタジオがデジタル複製を作成する前に遺族の同意を得ることを義務付けている。これらの法律は、パフォーマーをデジタルで再現できるAI能力の進展に直面する中、俳優とその遺族の権利を保護するために設計されている。
SB-1047 拒否権
多くのAI関連法案が承認される中、大規模AIシステムの規制を目指すSB-1047法案はニューサム知事により拒否権が行使された。拒否権行使の書簡で知事は、同法案が大規模AIモデルに過度に焦点を絞っている点を指摘し、これが「国民に誤った安心感を与える」と懸念を示した。さらに、小規模モデルも重大なリスクをもたらし得るため、大規模・小規模双方のAIシステムに対応する柔軟な規制アプローチの必要性を強調した。
2024年ドリームフォースカンファレンスにおけるセールスフォースCEOマーク・ベニオフとの対談で、知事はAIにおける実証可能なリスクと仮説的なリスクを区別することの重要性について議論した。AIのあらゆる潜在的問題に対処することは不可能であると認めつつも、州の規制努力は最も差し迫った課題の解決に焦点を当てる方針を示した。
ニューサム知事はまた、AI規制に関するより広範なアプローチを示唆した。 「世論や意識において異常に注目されている法案が一つある。それがSB-1047だ」とニューサム知事は述べた。「AIにおける実証可能なリスクと仮説上のリスクとは何か？全てを解決できるわけではない。では何に焦点を当てられるのか？これが我々がこの問題全体に対して取っているアプローチだ」
企業への影響
カリフォルニア州で相次いで制定された一連のAI関連法は、人工知能がもたらす機会と危険の両方に対処する同州の積極的な姿勢を反映している。プライバシーや教育から医療、選挙の公正性に至るまで、これらの新法は米国で最も包括的なAI規制の一部を構成している。
カリフォルニア州で事業を行う企業、またはカリフォルニア州の居住者と取引を行う企業は、これらの法令への準拠を確保するため、今すぐ対策を講じる必要があります。カリフォルニア州で事業を行っていない企業も同様に、これらの法令に留意し、他の州が追随することは確実であるため、一般的なテーマに沿った準拠措置の評価と検討を進めるべきです。
