Künstliche Intelligenz im Gesundheitswesen: Wichtige Überlegungen für die Onkologie

Künstliche Intelligenz (KI) hat das Potenzial, das Gesundheitswesen zu revolutionieren. In der Onkologie gibt es nun Möglichkeiten, KI zur Unterstützung der Diagnostik, der prädiktiven Analytik und administrativer Funktionen einzusetzen.

Dieses aktuelle Thema wurde im Rahmen von Sitzungen zu den Themen „Digitale Innovation“ (ein krebsbezogener Anwendungsfall für KI) und „Fortgeschrittene klinische Pfade“ auf der Cancer Care Business Exchange im September 2024 diskutiert. Während sich der Business Case durch diese lebhaften Sitzungen deutlich abzeichnete, ist es wichtig zu beachten, dass die Entwicklung der KI-Technologie die Entwicklung eines angemessenen und durchdachten Rechts- und Regulierungsrahmens für diese wichtige Technologie bei weitem übertrifft.

Krankenhäuser, Anbieter, Kostenträger und Drittanbieter sollten bei der Auswahl und Implementierung neuer KI-Lösungen praktische Schritte unternehmen. Im Folgenden finden Sie einige wichtige Überlegungen, die Sie bei der Auseinandersetzung mit diesem wichtigen Thema berücksichtigen sollten:

Sicherstellung der Einhaltung aller geltenden Datenschutz- und Sicherheitsstandards

KI und oft auch der Erfolg der KI-Lösung hängen von Daten ab. Nahezu alle KI-Lösungen erfordern enorme Datenmengen, die die Integration und Erfassung von Daten aus vielen Quellen erfordern, darunter elektronische Patientenakten, Anbieterplattformen und Patientenportale. Das Verständnis, wie und von wem die KI-Lösung genutzt und unterstützt wird, ist entscheidend, um sicherzustellen, dass Gesundheitsorganisationen die Datenschutz- und Sicherheitsgesetze des Bundes und der Bundesstaaten einhalten.[1] Anbieter, die KI-Lösungen für Gesundheitsdienstleister entwickeln und unterstützen, müssen sicherstellen, dass ihre Lösung den Best Practices für grundlegende Datenschutz- und Sicherheitsstandards entspricht, die Gesundheitsdienstleister erwarten.

Gesundheitsdienstleister müssen genau verstehen, wie die KI-Lösung funktioniert, um die erforderlichen regulatorischen Schutzmaßnahmen beurteilen zu können. Welche Art von Daten benötigt der Anbieter, um die KI-Lösung zu betreiben und zu unterstützen? Wenn Patienteninformationen an den Anbieter weitergegeben werden, muss der Gesundheitsdienstleister wahrscheinlich mindestens eine Geschäftspartnervereinbarung mit dem Anbieter abschließen. Gesundheitsdienstleister sollten wissen, welche Art von Patienteninformation gegebenenfalls erforderlich ist. Einige staatliche Gesetze verlangen, dass Personen informiert werden, wenn ihre personenbezogenen Daten von einer KI-Lösung zum Zwecke der Bereitstellung von Empfehlungen oder Feedback verwendet werden. Anbieter sollten auch auf Anzeichen achten, dass ihre Anbieter versuchen, Gesundheitsdaten für ihre eigenen Zwecke zu verwenden, z. B. zum Trainieren ihrer KI-Lösung und zum Einsatz der Lösung bei Wettbewerbern des Anbieters. Jede Verwendung von Daten für eigene Zwecke des Anbieters (die nicht mit der Verwaltung seines Kundenvertrags in Zusammenhang stehen) müsste in der Vereinbarung mit dem Geschäftspartner ausdrücklich gestattet sein, und alle Daten müssten gemäß HIPAA und mit Genehmigung des Gesundheitsdienstleisters anonymisiert werden.

Aktive Überwachung der Gesetzgebungs- und Regulierungsaktivitäten in diesem Bereich, da die Aufsicht wahrscheinlich zunehmen wird

Während sich die KI rasant weiterentwickelt, hinkt die staatliche Regulierung hinterher. Es ist jedoch davon auszugehen, dass neue Gesetze und offizielle Leitlinien immer häufiger erlassen werden. Eine Reihe von Bundesstaaten hat Task Forces und Räte eingerichtet, um den Einsatz von KI zu untersuchen und zu überwachen. Im März verabschiedete Utah den„Artificial Intelligence Act“, der erstmals Offenlegungspflichten für den Einsatz generativer KI in regulierten Berufen ab dem 1. Mai 2024 festlegt. Und im Mai verabschiedete Colorado den Gesetzentwurf „Consumer Protections for Interactions with Artificial Intelligence” (mit Inkrafttreten am 1. Februar 2026, das erste staatliche Gesetz zur Regulierung von „risikoreichen KI-Systemen”).[2] Weitere Informationen finden Sie im Blog von Foley Colorado Passes New AI Law to Protect Consumer Interactions.

KI-gesteuerte medizinische Geräte müssen möglicherweise vor ihrer Einführung genehmigt werden.

Anbieter sollten bestätigen, ob die vorgeschlagenen KI-gesteuerten Lösungen einer behördlichen Genehmigung bedürfen (z. B. als Medizinprodukt) und, falls nicht, welche behördlichen Leitlinien die Vermarktung ihres Produkts unterstützen, zusammen mit entsprechenden Zusicherungen und Gewährleistungen, die solche Aussagen untermauern. Während KI darauf trainiert werden kann, aus Fehlern zu lernen und sich weiterzuentwickeln, um die Leistung zu verbessern, sind bestehende Regulierungsmodelle darauf ausgelegt, den statischen Rahmen zu bewerten, in dem die KI operiert. Infolgedessen benötigen viele Medizinprodukte möglicherweise eine entsprechende behördliche Genehmigung, verfügen jedoch nicht darüber oder könnten in Zukunft einer Genehmigungspflicht unterliegen. Die Food and Drug Administration (FDA) untersucht derzeit Möglichkeiten, KI-Lösungen umfassender zu bewerten (und hat bis August 2024 950 KI-/ML-fähige Medizinprodukte zugelassen), wird sich aber letztendlich möglicherweise an den Kongress wenden, um Leitlinien in Form neuer Gesetze zu erhalten. In der Zwischenzeit sollten Anbieter alle vorgeschlagenen KI-gesteuerten Medizinprodukte vor ihrer Einführung von einem Rechtsberater prüfen lassen.

Schützen Sie sich durch Sorgfalt und vertragliche Vereinbarungen

Stellen Sie sich das schlimmste Szenario vor. Beispielsweise wird Ihr KI-Anbieter Opfer eines Cyberangriffs. Oder es kommt zu einer Fehldiagnose, weil ein KI-Produkt fehlerhaft ist und der Anbieter sich zu sehr auf die KI-Lösung verlässt. Anbieter sollten sorgfältig Richtlinien und Verfahren implementieren, in denen die genehmigten Einsatzbereiche der KI innerhalb des Unternehmens festgelegt sind, ihre Anbieter und die KI-Lösung gründlich prüfen, Verträge auf angemessene Schutzmaßnahmen hin überprüfen und sicherstellen, dass Versicherungen und andere Haftungsabsicherungen vorhanden sind. Zu den Bereichen, die einer angemessenen Sorgfaltsprüfung unterzogen werden sollten, gehören die Frage, ob der Anbieter sich ordnungsgemäß registriert hat, um sein geistiges Eigentum zu schützen, ob der Anbieter seine Mitarbeiter und Vertreter überprüft, um sich vor Gesundheitsbetrug und anderen risikoreichen Bereichen zu schützen, welche Versicherungsdeckung (einschließlich Cyber-Versicherung) der Anbieter hat und welche Ressourcen zur Verfügung stehen, wenn ein Anspruch geltend gemacht wird. Verträge sollten die Verantwortlichkeiten entsprechend proaktiv zuweisen. Viele Anbieter bieten Standardverträge an. Diese sollten sorgfältig geprüft werden, um sicherzustellen, dass sie die folgenden rechtlichen Bestimmungen enthalten:

• Grundlegende Leistungserwartungen
• Zusicherungen und Gewährleistungen hinsichtlich der Einhaltung von Vorschriften und der Leistung
• Vertraulichkeit/Datenschutz und Sicherheit
• Wettbewerbsverbote oder andere restriktive Vereinbarungen (insbesondere für Anbieter, die vor Ort tätig sein werden)
• Entschädigungsbestimmungen – achten Sie auf Entschädigungen im Zusammenhang mit Fahrlässigkeit, Vertragsverletzungen, vorsätzlichem Fehlverhalten, Cyberkriminalität und Verstößen gegen das Urheberrecht.
• Haftungsbeschränkungen – viele Anbieter versuchen, die Rückwirkungsfrist für Gebühren auf ein bis drei Jahre zu begrenzen.

Entwicklung und Umsetzung geeigneter IT- und KI-Governance-Verfahren

Ein klar definierter Rahmen für die Unternehmensführung kann Bedenken hinsichtlich der ethischen Umsetzung von KI ausräumen, Vertrauen in die KI-Lösung aufbauen und dazu beitragen, die Haftung eines Unternehmens in Zukunft zu minimieren. Dazu gehört die Festlegung von Richtlinien und Verfahren, einschließlich geeigneter Schulungen für Mitarbeiter, die auf die KI-Lösung zugreifen oder diese nutzen werden, und die es dem Unternehmen ermöglichen, KI während des Implementierungsprozesses und auch danach zu überprüfen, zu überwachen und zu kontrollieren. Es ist jedoch wichtig, solche Governance-Richtlinien kontinuierlich zu überprüfen und anzupassen, da sich die Technologie und die Anwendungsfälle von KI ständig weiterentwickeln, und die Einhaltung dieser Governance-Richtlinien innerhalb Ihres Unternehmens zu überwachen.  

Lösungen priorisieren, die die Erstattung unterstützen oder verbessern

KI kann dazu beitragen, Effizienz und Innovation zu steigern, was vor allem zu einer besseren Patientenversorgung und besseren Behandlungsergebnissen führen kann. Versierte onkologische Praxen werden jedoch auch nach KI-Lösungen suchen, die ihren Gewinn steigern können. Ist die KI-Lösung selbst erstattungsfähig und/oder hat der Anbieter einen Weg zur Erstattung? Ist das Produkt für die Einhaltung der Qualitätsberichtsprogramme der Centers for Medicare & Medicaid Services (CMS) wie dem Merit-based Incentive Payment System (MIPS) und staatlichen Programmen zur Förderung der Interoperabilität zertifiziert? Die Zertifizierung durch das Office of the National Coordinator for Health Information Technology (ONC) wird von den CMS anerkannt, um die Einhaltung der Sicherheits-, Funktions- und Technologieanforderungen zu bestätigen.[3]

Je nach Grad der Integration mit der KI-Lösung müssen Anbieter jedoch möglicherweise Maßnahmen ergreifen, um die Anforderungen der ONC für generative KI-Lösungen und klinische Entscheidungshilfetools zu erfüllen. 

Nächste Schritte

Da KI zunehmend Teil der betrieblichen Abläufe im Gesundheitswesen wird, können diese praktischen Maßnahmen ergriffen werden, um die Risiken für Compliance-, Datenschutz- und Sicherheitsprozesse zu verringern. Foley beobachtet diese sich wandelnde Rechts- und Geschäftslandschaft im Zusammenhang mit KI in verschiedenen Sektoren, darunter innovative Technologien, Gesundheitswesen und Biowissenschaften sowie geistiges Eigentum, aufmerksam und steht mit einem Team vonFoley-Anwältenzur Unterstützung bereit. Bei Fragen wenden Sie sich bitte an die Autoren, Ihren Foley-Ansprechpartner, unserenSchwerpunktbereich Künstliche Intelligenzund unserenSektor Gesundheitswesen und Biowissenschaften.

*Die Autoren danken Jacqueline Acosta, Sonderberaterin, und Francesca Camacho, Studentin an der Boston University School of Law und Sommerpraktikantin 2024 bei Foley & Lardner LLP, für ihre Beiträge.

[1] Viele Bundesstaaten haben Datenschutz- und Sicherheitsstandards, die in vielen Fällen über die grundlegenden Anforderungen des Bundes hinausgehen und überprüft werden sollten.

[2] SB205 (Verbraucherschutz bei Interaktionen mit künstlicher Intelligenz).

[3] ONC hat kürzlich überarbeitete Zertifizierungskriterien für „Entscheidungsunterstützende Maßnahmen“, „Patientendaten und Beobachtungen“ und „Elektronische Fallberichterstattung“ sowie eine neue Basisversion des Standards „United States Core Data for Interoperability“ (USCDI) in Version 3 herausgegeben.