人工知能（AI）は、スケジュール管理や請求処理といった管理業務から、診断や治療方針の提案を含む臨床的意思決定に至るまで、医療業務への統合が進んでいる。AIは大きな利点をもたらす一方で、バイアス、透明性、説明責任に関する懸念から規制対応が促されている。コロラド州人工知能法（本法）は2026年2月1日に施行予定であり、特に医療サービスやその他の重要分野に影響を及ぼす重大な決定に関わる高リスクAIシステムを導入する事業体に対し、ガバナンスおよび情報開示要件を課すものである。
本法の広範な適用範囲（コロラド州で事業を行う事業体に対する域外適用可能性を含む）を踏まえ、医療提供者はAI利用状況を積極的に評価し、今後の規制対応を準備しなければならない。以下では、本法の趣旨、適用対象となるAIの種類、今後の規制動向、提供者への潜在的影響、法令遵守要件、および執行メカニズムについて論じる。
1. この法律は何から保護しようとしているのか？
本法は主に、人種、障害、年齢、言語能力などの特定の特性に基づき、個人に対して違法な差別的取扱いまたは不均衡な影響をもたらすAI駆動型の意思決定と定義されるアルゴリズム的差別を軽減することを目的とする。本法は、AIが既存の偏見を強化したり、特定の集団を不当に不利にする決定を下したりすることを防止しようとするものである。
医療におけるアルゴリズム的差別の事例
- 医療アクセスに関する課題：AI搭載の電話予約システムは、特定のアクセントを認識できなかったり、英語以外の言語話者を正確に処理できなかったりするため、英語を母語としない人々が医療予約を行うことがより困難になる可能性があります。
- 偏った診断ツールと治療推奨：一部のAI診断ツールは、医学的根拠ではなく訓練データの偏りに起因して、異なる人種・民族の患者に対して異なる治療法を推奨する可能性がある。例えば、主に白人患者のデータで訓練されたAIモデルは、黒人やヒスパニック系患者では異なる形で現れる疾患の初期兆候を見逃す恐れがあり、歴史的に周縁化された集団に対して不正確または効果の低い治療推奨をもたらす。
- 本法は、これらおよびその他のAIに起因する不平等に対処することにより、自動化システムが医療へのアクセスや治療結果における既存の格差を助長または悪化させないことを確保することを目的としている。
2. この法律が対象とするAIの種類は何か？
本法は、コロラド州住民との対話や意思決定にAIを利用する事業者に広く適用される。重大な決定に実質的な影響を及ぼす高リスクAIシステムにはより厳格な要件が課されるものの、医療分野で使用される大半のAIシステムに対しても本法は義務を課す。
法律における主要な定義
- 「人工知能システム」とは、現実世界の環境に影響を与え得る決定、予測、推奨などの出力を生成する機械ベースのシステムを意味する。
- 「重大な決定」とは、消費者の医療、保険、その他の必須サービスへのアクセスまたはその費用に実質的な影響を及ぼす決定を意味する。
- 「高リスクAIシステム」とは、重大な決定を行う、またはそれに実質的な影響を与えるあらゆるAIツールを意味する。
- 「実質的要因」とは、重大な決定を下す際に寄与する、または重大な決定の結果を変更し得る要因であって、AIシステムによって生成されるものをいう。
- 「開発者」とは、AIシステムの創作者を意味する。
- 「デプロイヤー」とは、高リスクAIシステムの利用者を指す。
3. 医療提供者はどのようにコンプライアンスを確保できるか？
同法は広範な義務を定めているものの、具体的な規制はまだ策定中である。コロラド州司法長官は、遵守要件を明確化する規則の策定を任されている。これらの規制では以下の事項が扱われる可能性がある：
- AIシステムのためのリスク管理およびコンプライアンスの枠組み
- 消費者向けアプリケーションにおけるAI利用に関する開示要件
- アルゴリズムによる差別を評価し軽減するためのガイダンス
医療提供者は、規制枠組みが進化するにつれて動向を注視し、AI関連の実践が州法に準拠していることを確保すべきである。
4. この法律は医療業務にどのような影響を与える可能性があるか？
本法は、意思決定に影響を与えるあらゆるAIシステムに広く適用されるため、医療提供者に対し、様々な業務領域におけるAIの活用方法を具体的に評価することを義務付ける。患者ケア、管理業務、財務運営におけるAIの役割が拡大していることを踏まえ、医療機関は複数の領域におけるコンプライアンス義務を想定すべきである。
請求と回収
- AIを活用した請求処理システムは、特定の患者層に対して債務回収活動が不均衡に集中する可能性のある潜在的な偏りについて検証されるべきである。
- 導入者は、AIシステムが特定の患者グループに対して意図せず経済的障壁を生じさせないよう確保すべきである。
予約と患者アクセス
- AIを活用したスケジュール管理アシスタントは、障害を持つ患者や英語力が限られている患者に対応できるよう設計されなければならず、意図しない差別や医療へのアクセス遅延を防ぐ必要がある。
- 提供者は、自社のAIツールが特定の患者を差別的と見なされる可能性のある方法で優先していないかどうかを評価しなければならない。
臨床的意思決定と診断
- AI診断ツールは、異なる人口統計学的グループに対して偏った結果を生じさせないことを保証するために検証されなければならない。
- 人工知能を活用したトリアージツールを利用する医療機関は、公平性と正確性を確保するため、AIが生成した推奨事項を検証する手順を確立すべきである。
5. AIを利用する場合、どのようなコンプライアンスが必要ですか？
本法は開発者と導入者に対して異なる義務を定めている。医療提供者は、ほとんどの場合、開発者ではなくAIシステムの「導入者」となる。医療提供者は、AIツールを業務に導入するにあたり、適切なリスク配分と情報共有のため、開発者との契約関係を精査する必要がある。
- 開発者（AIベンダー）の義務
- 展開者への開示事項：開発者は、AIシステムのトレーニングデータ、既知のバイアス、および意図された使用事例について透明性を提供しなければならない。
- リスク軽減策：開発者はアルゴリズムによる差別を最小限に抑えるための取り組みを文書化しなければならない。
- 影響評価：開発者は、AIシステムを導入する前に、それが差別リスクをもたらすかどうかを評価しなければならない。
- 提供者（例：医療提供者）の義務
- アルゴリズムによる差別を回避する義務
- 高リスクAIシステムを導入する者は、アルゴリズムによる差別の既知または予見可能なリスクから消費者を保護するため、合理的な注意を払わなければならない。
- リスク管理方針及びプログラム
- デプロイヤーは、アルゴリズムによる差別のリスクを特定し、文書化し、軽減するリスク管理方針およびプログラムを実施しなければならない。
- プログラムは反復的であり、定期的に更新され、確立されたAIリスク管理フレームワークと整合性が取れている必要がある。
- 要件は、デプロイする組織の規模、複雑さ、AIシステムの範囲、およびデータの機密性に基づいて異なります。
- 影響評価（定期的および事象トリガー型レビュー）
- タイミング要件： デプロイ担当者は影響評価を実施しなければならない：
- 高リスクAIシステムを展開する前に。
- 各導入済み高リスクAIシステムについて、少なくとも年1回。
- AIシステムに対する意図的かつ重大な変更が行われた後、90日以内に。
- 必須記載事項：各影響評価には、AIシステムの目的、想定用途、および利点、アルゴリズムによる差別のリスク分析と軽減策、処理されるデータ（入力、出力、およびカスタマイズデータ）の説明、性能指標とシステムの制限事項、透明性確保策（消費者への開示を含む）、ならびに導入後の監視と安全対策の詳細を含めなければならない。
- 変更に関する特別な要件：大幅な変更により影響評価が実施される場合、AIシステムの実際の使用が当初の意図した目的に沿ったものか、あるいは逸脱したものかについての説明も含めなければならない。
- タイミング要件： デプロイ担当者は影響評価を実施しなければならない：
- 通知と透明性
- 公示：導入事業者は、自社が使用する高リスクAIシステムと差別リスクの管理方法について、自社ウェブサイト上で声明を公表しなければならない。
- 患者・従業員への通知：AIシステムが重大な決定を行う前に、その使用について個人に通知されなければなりません。
- 決定後の説明：AIが不利な決定に寄与した場合、導入者はその役割を説明し、当該個人に異議申し立てまたは不正確なデータの修正を許可しなければならない。
- 司法長官への通知：AIがアルゴリズム的差別を引き起こしたと判明した場合、導入者は90日以内に司法長官に通知しなければならない。
- アルゴリズムによる差別を回避する義務
従業員数が50人未満の小規模事業者で、自社データを用いてAIモデルを訓練しない場合は、これらのコンプライアンス義務の多くが免除される。
6. この法律はどのように施行されるのか？
- 執行権限を有するのはコロラド州司法長官のみである。
- デプロイヤーが公認のAIリスク管理フレームワークに従う場合、遵守の反証可能な推定が成立する。
- 私的訴訟権は認められておらず、つまり消費者は本法に基づき直接提訴することはできない。
医療提供者は、AIの使用状況を評価し、コンプライアンス対策を実施するために早期の行動を取るべきである。
最終的な考察：医療提供者が今すべきこと
- 本法は、特に患者ケア、管理業務、財務運営においてAI駆動型ツールへの依存度を高めている医療提供者にとって、AI規制における重要な転換点を示すものである。
- 本法は透明性の向上とアルゴリズムによる差別的扱いの軽減を目的とする一方、相当なコンプライアンス義務も課す。医療機関はAIの利用状況を評価し、リスク管理プロトコルを実施し、詳細な文書化を維持しなければならない。
- 規制環境の変化を踏まえ、医療提供者は既存のAIシステムの監査、コンプライアンス要件に関するスタッフ研修、ベストプラクティスに沿ったガバナンス体制の構築といった積極的な取り組みを行うべきである。コロラド州司法長官による規制策定が進む中、追加の規制要件に関する情報を常に把握することは、コンプライアンスの確保と執行リスク回避の観点から極めて重要となる。
- 結局のところ、この法律は州の境界を越えて広がる可能性が高いAI規制への広範な傾向を反映している。AIガバナンスに今投資する医療機関は、法的リスクを軽減するだけでなく、ますますAI主導となる業界において患者の信頼を維持することにもつながる。
- 医療提供者がAIシステムを業務に統合する場合、当該法が特定の利用事例に適用されるか否かを判断するため、徹底的な法的分析の実施が不可欠である。これには、提供者が当該法に準拠し、当事者間でリスクを適切に配分するために、開発者から十分な情報と協力を得られるよう、AI開発者とのサービス契約の慎重な検討と交渉も含めるべきである。
コンプライアンスは画一的なプロセスではない。AIツールとその機能、重大な意思決定に影響を与える可能性を慎重に評価する必要がある。組織は法律顧問と緊密に連携し、同法の複雑性を把握し、リスク管理フレームワークを導入し、継続的なコンプライアンスのための手順を確立すべきである。AI規制が進化する中、医療提供者が規制要件を満たすだけでなく、より広範な業界基準に沿った倫理的かつ公平なAI実践を維持するためには、積極的な法的評価が不可欠となる。
フォリーは、規制変更に伴う短期的・長期的な影響への対応を支援します。当社は、事業運営や業界固有の問題に関連するこれらの法的考慮事項やその他の重要な法的課題に対処するためのリソースを有しています。執筆者、担当のフォリー・リレーションシップ・パートナー、または当社の ヘルスケア・ライフサイエンス部門、または 革新的技術部門 までお問い合わせください。
