カリフォルニア州のギャビン・ニューサム知事は2024年9月29日、SB-1047法案に拒否権を行使した。同法案の対象となるモデルに関する懸念を理由として挙げた。
2024年7月2日、カリフォルニア州議会司法委員会はSB-1047（フロンティア人工知能モデルのための安全かつ確実なイノベーション法）を可決した。同法案は2024年5月21日に上院で可決されていた。 本法案は、現行の人工知能（AI）の枠組みを超えた公共の安全・セキュリティに対する新たな脅威のリスクを抑制することを目的としており、米国初の包括的なAI立法と広く見なされているコロラド州のSB205（人工知能との相互作用に関する消費者保護法）に続くものである。
仮にSB1047がカリフォルニア州で法律として成立しなくても、規制を検討している他の消費者意識の高い州議会にとってモデルとなり得る。具体的な内容をさらに検証しよう：
範囲
コロラド州法案が事業分野や用途に基づいてモデルを規制するのとは異なり、本法案は複雑性に基づいてAIモデルを専ら対象とする。AI開発者全般に適用するのではなく、カリフォルニア州内で「対象モデル」または「対象モデルの派生モデル」を訓練または提供する開発者（すなわち企業）に特化して焦点を当てる。
対象モデル
7月3日に修正された法案では、「対象モデル」を「10^26を超える整数演算または浮動小数点演算（FLOPs）の計算能力を用いて訓練され、その費用が1億ドル（US$100,000,000）を超える」AIモデルと定義している。 この閾値は、バイデン大統領が「安全で確実かつ信頼できる人工知能の開発と利用に関する大統領令」で設定した基準を反映している。同令では、10^26 FLOPsを超える計算能力を用いて訓練された全てのモデルは、商務長官による規制の対象となり、報告義務を負う。
これら2つの数値は現在、同様の閾値を示している。というのも、10^26 FLOPsのモデルを訓練するおおよそのコストが1億米ドルだからである。計算能力の量を評価することは、コンピューターが複雑かつ大規模なタスクをいかに効率的に処理できるかを理解する手がかりとなる。AIの分野では、高度なAIモデル、特に深層学習アルゴリズムを伴うモデルの訓練には、高い計算能力が不可欠である。
本稿執筆時点では、提案されている法案の計算能力の範囲内に収まる既存モデルは存在しない。トレーニング実行時に最も高い計算能力を要するのはGemini Ultraで、推定5×10^25 FLOPsであり、現時点で最も計算負荷の高いモデルである。しかしAIの急速な進歩に伴い、1年以内に10^26 FLOPsの閾値を超えるモデルが出現すると予想される。
法案の規定の大半は「対象モデル派生モデル」にも適用される。改正後の法案では、対象モデル派生モデルを以下のいずれかと定義している：- 対象モデルの未修正コピー- ファインチューニング以外の修正を加えた対象モデルのコピー- 10^25 FLOPs未満の演算能力を用いてファインチューニングされた対象モデルのコピー
開発者向け制限事項
改正案では、対象モデルが重大な危害を引き起こす、またはその可能性を助長する不合理なリスクがある場合、開発者は当該モデルを商業的または公的に利用できない。同様に、対象モデルまたはその派生モデルを商業的・公的利用に供することも、同様のリスクが存在する場合に禁止される。ただし、本法案は私的利用や非営利利用については言及していない。したがって、この制限が業界、特に社内モデルを利用する企業にどのような影響を与えるかは不明確である。
開発者の責任
SB-1047は、対象となるモデルの開発者に対し、安全性を確保するための様々な措置の実施を義務付けており、これには以下が含まれる：
トレーニング前
- 管理上、技術的、物理的なサイバーセキュリティ保護策を実施する
- 完全なシャットダウンを迅速に実行する機能を実装する
- 開発者が重大な危害をもたらす不合理なリスクを伴う対象モデルまたは派生モデルを製造しないことを合理的に保証する、文書化された独立した安全・セキュリティプロトコルを策定し、これを遵守するとともに、フロンティアモデル部門に更新版を提出すること。
- 年次安全・保安レビューを実施する
商用または公共利用の前
- 重大な危害の原因を防止するため、評価を実施し、合理的な安全対策を講じる
追加の責任
- 第三者監査機関による年次適合性証明書
- 開発者の管理下にある対象モデルおよび対象モデルのデリバティブに影響を及ぼす安全上のインシデントを72時間以内に報告すること
- 第三者がモデルを使用したり、派生モデルを作成したりして重大な危害を引き起こすことを防止するため、合理的な安全対策と要件を実施する。
コンピューティングクラスターの責任範囲
コンピューティングクラスターの運営者は、顧客が対象モデルを訓練するのに十分なコンピューティングリソースを利用する場合、以下の様々な措置を実施しなければならない：
- 基本的な管理情報を取得する
- 顧客が対象モデルを展開するためにコンピューティングクラスターを利用する意図があるかどうかを評価する
- 顧客モデルのトレーニングまたは運用に使用されるあらゆるリソースを、直ちに完全に停止する機能を実装する
- 顧客がアクセスに使用したIPアドレスと、各アクセスの日時を記録する
追加要件
本法案はさらに、市販の適用対象モデルを有する開発者及びコンピューティングクラスターの運営者に対し、透明性のある統一された公開価格表を整備し、価格設定やアクセス権限の決定において違法な差別や非競争的行為を行わないことを義務付ける。
執行
本法案に基づき、司法長官は民事訴訟を提起する裁量権を与えられており、裁判所は差止命令または確認的救済（対象モデルの修正命令、完全停止の実施命令、対象モデルの削除命令、損害賠償、弁護士費用及び訴訟費用、その他裁判所が適切と認める救済を含むがこれらに限定されない）を命じることができる。また本法案には、開発者が契約や企業構造を通じて責任を回避することを防止する規定も含まれている。
内部告発者を保護するため、労働委員会は本法案に基づき、労働法違反を構成する規定を執行する裁量権も付与される。
この法案はまた、フロンティアモデル部門を設置し、同機関に対し法令に基づく裁量権を付与する。具体的には以下の権限を認める：
- 認証報告書を審査し、要約された調査結果を公表する
- 司法長官に対し、潜在的な違反について助言する
- オープンソースAIの規制策定を実施し、対象モデルの不当なリスクを防止する
- ベストプラクティスの認証制度を確立する
- 安全報告書を発行する
- 緊急事態を構成する可能性のあるAI安全事象のカテゴリーに関する指針を発行し、そのような事態が発生した場合にカリフォルニア州知事に助言を行う
フロンティアモデル部門は、法案で提案されている5人委員会のフロンティアモデル委員会による直接監督下に置かれる。
事業への影響
改正後の重要な数値は、1億米ドルの訓練コストである。この金額は法令で固定されている一方、計算能力の閾値はフロンティアモデル部門によって調整可能である。さらに、モデルの訓練コストが技術革新によって低下するにつれ、1億米ドルで購入可能な計算能力は時間とともに増加すると予想される。
本法案が成立した場合、ビジネスに様々な影響を及ぼす可能性がある。フロンティアモデルの開発者にとって、本法案は負担が大きいと感じられるかもしれない。生成AI分野をリードする開発者は、新規モデルの市場投入速度に重大な影響を与え得る広範な監督に直面すると予想される。 さらに、規制対象の開発者が自社モデルを第三者の開発者にライセンス供与する場合、第三者がモデルを再訓練して危険な能力を持たせることを防止し、責任回避のための必要な予防措置を講じる必要がある。本法案の可否は、こうした開発者が規制の緩い州へ事業移転する判断に影響を与えうる。ただし、仮に移転した場合でも、バイデン大統領の大統領令に基づく規制対象となる。
一方、多くの開発者はこの法案の影響を受けないだろう。前述の通り、現在の最先端モデルでさえ規制の閾値に達しておらず、既存技術で開発可能なソリューションは広く普及している。例えば、コンピュータビジョン向け独自開発の深層学習モデルから顔認識用の微調整済みニューラルネットワークまで、10万米ドル未満で学習可能なモデルが数多く存在する。 開発者がニューラルネットワークの多様な応用を模索し続ける中で、十分に低い計算コストで収益性を確保できるケースが多数見出されるだろう。ただし企業や開発者は、AIモデルの急速な進歩速度を認識しつつ、計算負荷が最も高いモデルについては、経済的に実現可能となった時点でそのユースケースを評価すべきである。
規制を懸念する開発者には、コストと計算能力の閾値を超えずに高品質なモデルを開発する選択肢が数多く存在する。例えば、法案はトレーニングデータの品質向上への投資コストを考慮していない。トレーニングデータの品質を改善することで、規制に近い開発者は閾値を超えずに精度を大幅に向上させられる可能性がある。さらに、既存モデルの微調整は、自社業務にAIソリューションを導入しようとする多くの企業にとって有効な解決策となり得る。
開発者と運用担当者の双方は、全米各州で審議中の法案を引き続き注視すべきである。現在、400件を超えるAI関連法案が全米で審議中だ。たとえ法案が成立しなくても、類似の法案が他州で可決される可能性がある。
本記事への貢献に対し、フォリー法律事務所ボストン事務所のサマーアソシエイトであるアダム・ランドクイスト氏に特に感謝いたします。
