KI-Arzneimittelentwicklung: FDA veröffentlicht Entwurf für Leitlinien

Am 6. Januar 2025 veröffentlichte die US-amerikanische Food and Drug Administration (FDA) einen Leitfadenentwurf mit dem Titel Überlegungen zum Einsatz künstlicher Intelligenz zur Unterstützung regulatorischer Entscheidungen für Arzneimittel und biologische Produkte („Leitfaden”) veröffentlicht, in dem die Arten von Informationen erläutert werden, die die Behörde bei der Bewertung von Arzneimitteln anfordern kann. Der Leitfaden beschreibt insbesondere ein Risikorahmenwerk, das auf dem „Anwendungskontext” der künstlichen Intelligenz (KI) basiert, und enthält detaillierte Angaben zu den Informationen, die im Zusammenhang mit KI-Technologien, den für das Training der Technologien verwendeten Daten und der Governance rund um die Technologien angefordert (oder verlangt) werden können, um deren Verwendung zu genehmigen. Auf hoher Ebene unterstreicht die Leitlinie die Ziele der FDA zur Etablierung der Glaubwürdigkeit von KI-Modellen im Kontext ihrer Verwendung.

Dieser Artikel bietet einen Überblick über die Leitlinien, einschließlich Beispielkontexten für die Verwendung und einer detaillierten Beschreibung des Risikorahmens, und erläutert, inwiefern diese mit der Etablierung der Glaubwürdigkeit von KI-Modellen durch die vorgeschlagenen daten- und modellbezogenen Offenlegungen zusammenhängen. Darüber hinaus werden rechtliche Strategiefragen sowie Innovationsmöglichkeiten, die sich aus den Leitlinien ergeben, näher erläutert. Diese Überlegungen sind für Sponsoren (d. h. von klinischen Untersuchungen, wie z. B. Anträgen auf Ausnahmegenehmigungen für neue Prüfpräparate) sowie für Entwickler von KI-Modellen und andere Unternehmen im Bereich der Arzneimittelentwicklung von großem Wert.

Die Frage von Interesse definieren

Der erste Schritt im Rahmen der Leitlinien besteht darin, die „Frage von Interesse“ zu definieren: die spezifische Frage, Entscheidung oder Problematik, mit der sich das KI-Modell befasst. Fragen von Interesse könnten beispielsweise den Einsatz von KI-Technologie in klinischen Studien am Menschen betreffen, wie z. B. Ein- und Ausschlusskriterien für die Auswahl der Teilnehmer, die Risikoklassifizierung der Teilnehmer oder die Festlegung von Verfahren im Zusammenhang mit den klinischen Ergebnismaßen von Interesse. Fragen von Interesse könnten sich auch auf den Einsatz von KI-Technologie in Arzneimittelherstellungsprozessen beziehen, beispielsweise für die Qualitätskontrolle.

Verwendungskontexte

Als nächstes werden in den Leitlinien die Anwendungskontexte festgelegt – der spezifische Anwendungsbereich und die Rolle eines KI-Modells zur Beantwortung der betreffenden Frage – als Ausgangspunkt für das Verständnis der mit dem KI-Modell verbundenen Risiken und damit auch dafür, wie Glaubwürdigkeit hergestellt werden kann.

Die Leitlinien betonen, dass sie sich auf KI-Modelle (einschließlich der Arzneimittelforschung) beschränken, die sich auf die Patientensicherheit, die Arzneimittelqualität oder die Zuverlässigkeit der Ergebnisse aus nichtklinischen oder klinischen Studien auswirken. Daher sollten Unternehmen, die KI-Modelle für die Arzneimittelforschung einsetzen, sich jedoch bei Faktoren, die die FDA für die Zulassung eines Arzneimittels berücksichtigt, wie Sicherheit, Qualität und Stabilität, auf traditionellere Verfahren stützen, die zugrunde liegenden Prinzipien der Leitlinien kennen, müssen jedoch möglicherweise ihre derzeitige KI-Governance nicht ändern. Ein wichtiger Faktor bei der Definition des Anwendungskontexts ist die Frage, welche Rolle das KI-Modell im Vergleich zu anderen automatisierten oder von Menschen überwachten Prozessen spielt. So unterscheiden sich beispielsweise Prozesse, bei denen einer Person KI-Ergebnisse zur Überprüfung vorgelegt werden, von solchen, die vollständig automatisiert sind.

In den Leitlinien werden verschiedene Arten von Anwendungskontexten vorgestellt, darunter:

1. Design und Management klinischer Studien
2. Patienten beurteilen
3. Beurteilung von Endpunkten
4. Analyse von Daten aus klinischen Studien
5. Digitale Gesundheitstechnologien für die Arzneimittelentwicklung
6. Arzneimittelsicherheit
7. Pharmazeutische HerstellungGenerierung von Real-World-Evidence (RWE)
8. Lebenszykluswartung

Risikorahmen für die Festlegung des Umfangs der Offenlegung von Informationen

Die Leitlinien schlagen vor, dass das vom KI-Modell ausgehende Risikoniveau den Umfang und die Tiefe der Informationen bestimmt, die über das KI-Modell offengelegt werden müssen. Das Risiko wird anhand von zwei Faktoren bestimmt: 1) inwieweit das KI-Modell die Entscheidungsfindung beeinflusst (Modell-Einflussrisiko) und 2) die Folgen der Entscheidung, wie z. B. Risiken für die Patientensicherheit (Entscheidungsfolgenrisiko).

Bei risikoreichen KI-Modellen, deren Ergebnisse sich auf die Patientensicherheit oder die Arzneimittelqualität auswirken könnten, müssen möglicherweise umfassende Details zur Architektur des KI-Modells, zu den Datenquellen, den Trainingsmethoden, den Validierungsprozessen und den Leistungskennzahlen zur Bewertung durch die FDA vorgelegt werden. Umgekehrt kann die erforderliche Offenlegung für KI-Modelle mit geringem Risiko weniger detailliert sein. Dieser abgestufte Ansatz fördert die Glaubwürdigkeit und vermeidet unnötige Offenlegungspflichten für Szenarien mit geringerem Risiko.

Die meisten KI-Modelle, die unter diese Leitlinien fallen, werden jedoch wahrscheinlich als risikoreich eingestuft, da sie für das Management klinischer Studien oder die Herstellung von Arzneimitteln verwendet werden. Daher sollten die Beteiligten darauf vorbereitet sein, umfangreiche Informationen über ein KI-Modell offenzulegen, das zur Unterstützung der Entscheidungsfindung verwendet wird. Sponsoren, die traditionelle (nicht KI-basierte) Methoden zur Entwicklung ihrer Arzneimittel verwenden, müssen vollständige nichtklinische, klinische und chemische Herstellungs- und Kontrollinformationen vorlegen, um die Überprüfung und endgültige Genehmigung eines Antrags auf Zulassung eines neuen Arzneimittels durch die FDA zu unterstützen. Sponsoren, die KI-Modelle verwenden, müssen die gleichen Informationen vorlegen, zusätzlich jedoch Informationen über das KI-Modell, wie unten beschrieben.

Hochrangige Übersicht über Richtlinien zur Einhaltung je nach Verwendungskontext

Die Leitlinien enthalten außerdem eine detaillierte Übersicht über die Schritte, die unternommen werden müssen, um die Glaubwürdigkeit eines KI-Modells unter Berücksichtigung seines Anwendungskontexts sicherzustellen. Zu diesen Schritten gehören die Beschreibung (1) des Modells, (2) der zur Entwicklung des Modells verwendeten Daten, (3) des Modelltrainings und (4) der Modellbewertung, einschließlich Testdaten, Leistungskennzahlen und Zuverlässigkeitsaspekten wie Verzerrung, Qualitätssicherung und Codefehlermanagement. Von den Sponsoren kann erwartet werden, dass sie detailliertere Angaben machen, wenn die mit diesen Schritten verbundenen Risiken zunehmen, insbesondere wenn die Auswirkungen auf die Studienteilnehmer und/oder Patienten zunehmen.

Darüber hinaus betont die FDA ausdrücklich, dass der Aufrechterhaltung der Glaubwürdigkeit der Ergebnisse von KI-Modellen während ihres gesamten Lebenszyklus besondere Aufmerksamkeit geschenkt werden muss. Wenn sich beispielsweise die Eingaben oder der Einsatz eines bestimmten KI-Modells ändern, kann es erforderlich sein, die Leistung des Modells neu zu bewerten (und entsprechende Angaben zu machen, um die Glaubwürdigkeit weiterhin zu gewährleisten).

Überlegungen zum geistigen Eigentum

Patent vs. Geschäftsgeheimnis

Die Beteiligten sollten sorgfältig prüfen, ob sie die Innovationen, die den für die Entscheidungsfindung verwendeten KI-Modellen zugrunde liegen, patentieren lassen. Die umfangreichen Anforderungen der FDA hinsichtlich Transparenz und der Vorlage von Informationen über KI-Modellarchitekturen, Trainingsdaten, Bewertungsprozesse und Lebenszyklus-Wartungspläne würden eine erhebliche Herausforderung für die Wahrung dieser Innovationen als Geschäftsgeheimnisse darstellen.

Allerdings ist der Schutz von Geschäftsgeheimnissen zumindest für bestimmte Aspekte von KI-Modellen eine Option, wenn das KI-Modell nicht offengelegt werden muss. Wenn das KI-Modell für die Arzneimittelentwicklung oder für Vorgänge verwendet wird, die keine Auswirkungen auf die Patientensicherheit oder die Arzneimittelqualität haben, kann es möglich sein, das KI-Modell oder seine Trainingsdaten geheim zu halten. KI-Modelle, die für Entscheidungsfindungen verwendet werden, unterliegen jedoch den Anforderungen der FDA hinsichtlich Transparenz und Offenlegung von Informationen, was den Schutz von Geschäftsgeheimnissen wahrscheinlich gefährden wird. Durch die Sicherung des Patentschutzes für KI-Modelle können Interessengruppen ihr geistiges Eigentum schützen und gleichzeitig die Transparenzanforderungen der FDA erfüllen.

Chancen für Innovation

Die Leitlinien verlangen strenge Risikobewertungen, Datenqualitätsstandards und Modellvalidierungsprozesse, die die Grundlage für die Entwicklung von Tools und Systemen bilden, mit denen diese Anforderungen erfüllt werden können. Wie oben erwähnt, eignen sich innovative Ansätze für die Verwaltung und Validierung von KI-Modellen, die für die Entscheidungsfindung verwendet werden, nicht für den Schutz als Geschäftsgeheimnis, und die Beteiligten sollten dafür sorgen, dass diese Erfindungen frühzeitig identifiziert und patentiert werden.

Wir haben spezifische Möglichkeiten für KI-Innovationen identifiziert, die wahrscheinlich durch die in den Leitlinien zum Ausdruck kommenden Anforderungen der FDA vorangetrieben werden:

• Anforderungen an die Transparenz
  1. Entwurf von KI-Modellen mit erklärbaren KI-Fähigkeiten, die zeigen, wie Entscheidungen oder Vorhersagen getroffen werden
  1. Verzerrung und Eignung von Daten
     1. Systeme zur Erkennung von Verzerrungen in Trainingsdaten
     1. Systeme zur Korrektur von Verzerrungen in Trainingsdaten
  1. Systeme zur Überwachung der Lebenszykluswartung
     1. Systeme zur Erkennung von Datenabweichungen oder Änderungen im KI-Modell während des Lebenszyklus des Arzneimittels
     1. Systeme zur Nachschulung oder Revalidierung des KI-Modells bei Bedarf aufgrund von Datenabweichungen
     1. Automatisierte Systeme zur Verfolgung der Modellleistung
  1. Prüfverfahren
     1. Entwicklung von Modellen, die anhand unabhängiger Datensätze und Bedingungen getestet werden können, um ihre Verallgemeinerbarkeit nachzuweisen
  1. Integration von KI-Modellen in einen praktischen Arbeitsablauf
     1. Gute Herstellungspraxis
     1. Klinische Entscheidungsunterstützungssysteme
  • Dokumentationssysteme
    1. Automatische Systeme zur Erstellung von Berichten über die Modellentwicklung, -bewertung, -aktualisierung und -glaubwürdigkeitsprüfung, die der FDA vorgelegt werden können, um die regulatorischen Anforderungen zu erfüllen.

Die Leitlinien bieten zahlreiche Möglichkeiten für Innovationen zur Verbesserung der Glaubwürdigkeit, Transparenz und Einhaltung gesetzlicher Vorschriften im gesamten Lebenszyklus von Arzneimitteln. Wie oben dargelegt, lassen sich die Herausforderungen, denen sich die FDA stellen muss, um den Einsatz von KI in der Arzneimittelentwicklung zu validieren, eindeutig mit potenziellen Innovationen in Verbindung bringen. Solche Innovationen sind wahrscheinlich wertvoll, da sie zur Einhaltung der FDA-Richtlinien erforderlich sind und erhebliche Möglichkeiten für die Entwicklung eines wettbewerbsfähigen Patentportfolios bieten.

Schlussfolgerung

Mit dieser Leitlinie hat die FDA Richtlinien zur Feststellung der Glaubwürdigkeit von KI-Modellen vorgeschlagen, die Risiken und Auswirkungen für Teilnehmer an klinischen Studien und Patienten bergen. Diese Leitlinie, die sich noch im Entwurfsstadium befindet und nicht verbindlich ist, folgt einem schrittweisen Rahmen, der von der Definition der Fragestellung und der Festlegung des Anwendungskontexts des KI-Modells über die Bewertung der Risiken bis hin zur Festlegung des Umfangs der möglicherweise relevanten Offenlegung reicht. Die Leitlinien legen die aktuellsten Überlegungen der FDA zur Verwendung von KI in der Arzneimittelentwicklung dar. Angesichts eines solchen Rahmens und des zu erwartenden Offenlegungsgrades könnten Sponsoren eine Strategieänderung in Betracht ziehen und ihre Innovationen stärker durch Patente schützen. Ebenso könnte es mehr Möglichkeiten geben, Innovationen im Zusammenhang mit der Schaffung von Governance-Strukturen für diese Modelle zu identifizieren und zu schützen.

Neben dem Einsatz von IP-Schutz als Absicherung für eine umfassendere Offenlegung können Unternehmen auch die Einführung weiterer operativer Kontrollen in Betracht ziehen, um die mit der Verwendung von KI-Modellen verbundenen Risiken zu mindern und so ihren Offenlegungsaufwand zu reduzieren. Beispielsweise könnten Unternehmen erwägen, die Glaubwürdigkeit von KI-Modellen durch andere Beweisquellen zu untermauern und ihre Prozesse stärker durch menschliches Engagement und Aufsicht zu ergänzen.

In der Zwischenzeit sollten Sponsoren, die sich nicht sicher sind, wie sich die Verwendung ihres KI-Modells auf künftige FDA-Anforderungen auswirken könnte, die von der FDA für ihren spezifischen Anwendungskontext dargelegten Optionen für eine Zusammenarbeit in Betracht ziehen.

Kommentare zum Entwurf der Leitlinien können bis zum 7. April 2025 online oder per Post eingereicht werden. Unser Team steht interessierten Stakeholdern bei der Ausarbeitung zur Seite.

Foley unterstützt Sie bei der Bewältigung der kurz- und langfristigen Auswirkungen von Gesetzesänderungen. Wir verfügen über die nötigen Ressourcen, um Sie bei diesen und anderen wichtigen rechtlichen Überlegungen im Zusammenhang mit Geschäftsabläufen und branchenspezifischen Fragen zu unterstützen. Bitte wenden Sie sich an die Autoren, Ihren Foley-Kontaktpartner, unseren Sektor Gesundheitswesen & Biowissenschaftenoder an unseren Sektor Innovative Technologie mit allen Fragen.