Die FDA veröffentlicht zwei Diskussionspapiere, um die Diskussion über künstliche Intelligenz und maschinelles Lernen in der Arzneimittelentwicklung und -herstellung anzuregen

Von: Patrizia Cavazzoni, MD, Direktorin des Zentrums für Arzneimittelbewertung und -forschung

Künstliche Intelligenz (KI) und maschinelles Lernen (ML) sind keine Zukunftskonzepte mehr; Sie sind heute Teil unserer Lebens- und Arbeitsweise. Die US-amerikanische Food and Drug Administration verwendet den Begriff KI, um einen Zweig der Informatik, Statistik und Technik zu beschreiben, der Algorithmen oder Modelle verwendet, um Aufgaben auszuführen und Verhaltensweisen wie Lernen, Treffen von Entscheidungen und Treffen von Vorhersagen zu zeigen. ML ist eine Teilmenge der KI, die Daten und Algorithmen verwendet, ohne explizit programmiert zu werden, um die Art und Weise zu imitieren, wie Menschen lernen.

Das Wachstum des Datenvolumens und der Komplexität von KI/ML in Kombination mit modernster Rechenleistung und methodischen Fortschritten hat das Potenzial, die Art und Weise, wie Interessengruppen Therapien entwickeln, herstellen, verwenden und bewerten, zu verändern. Letztendlich kann KI/ML dazu beitragen, Patienten schneller sichere, wirksame und qualitativ hochwertige Behandlungen zur Verfügung zu stellen.

Beispielsweise könnte KI/ML verwendet werden, um die medizinische Literatur nach relevanten Erkenntnissen zu durchsuchen und vorherzusagen, welche Personen möglicherweise besser auf Behandlungen ansprechen und bei welchen ein höheres Risiko für Nebenwirkungen besteht. Konversationsagenten oder Chatbots, die auf „generativer“ KI basieren, haben das Potenzial, Fragen von Menschen zur Teilnahme an klinischen Studien oder zur Meldung unerwünschter Ereignisse zu beantworten. Digitale oder computerisierte „Zwillinge“ von Patienten können verwendet werden, um einen medizinischen Eingriff zu modellieren und Biofeedback bereitzustellen, bevor Patienten den Eingriff erhalten.

Die regulatorischen Einsatzmöglichkeiten sind real: Im Jahr 2021 umfassten mehr als 100 bei der FDA eingereichte Arzneimittel- und Biologika-Anträge KI/ML-Komponenten. Diese Einreichungen erstreckten sich über eine Reihe von Therapiebereichen, und die Sponsoren integrierten die Technologien in verschiedenen Entwicklungsstadien.

Wie in anderen sich entwickelnden Bereichen der Wissenschaft und Technologie gibt es auch bei der Arzneimittelentwicklung mit KI/ML Herausforderungen, wie zum Beispiel ethische und sicherheitsrelevante Aspekte wie unsachgemäße Datenweitergabe oder Cybersicherheitsrisiken. Es gibt auch Bedenken hinsichtlich der Verwendung von Algorithmen, die ein gewisses Maß an Undurchsichtigkeit aufweisen, oder von Algorithmen, deren interne Vorgänge für Benutzer oder andere interessierte Parteien nicht sichtbar sind. Dies kann zu einer Verstärkung von Fehlern oder bereits bestehenden Verzerrungen in den Daten führen. Unser Ziel ist es, Diskriminierung zu verhindern und zu beheben – einschließlich algorithmischer Diskriminierung, die auftritt, wenn automatisierte Systeme eine Personenkategorie gegenüber anderen bevorzugen –, um die Gerechtigkeit beim Einsatz von KI-/ML-Techniken zu fördern. Um diese Bedenken auszuräumen, hat die FDA ein Diskussionspapier mit dem Titel „Einsatz künstlicher Intelligenz und maschinellem Lernen bei der Entwicklung von Arzneimitteln und biologischen Produkten“ veröffentlicht.

Das Diskussionspapier ist eine Zusammenarbeit zwischen dem Center for Drug Evaluation and Research der FDA, dem Center for Biologics Evaluation and Research und dem Center for Devices and Radiological Health, einschließlich seines Digital Health Center of Excellence. Das Papier zielt darauf ab, eine Diskussion mit interessierten Parteien in der Medizinproduktentwicklungsgemeinschaft, wie Pharmaunternehmen, Ethikern, Wissenschaftlern, Patienten und Patientengruppen sowie globalen Regulierungs- und anderen Behörden, über den Einsatz von KI/ML in der Arzneimittel- und biologischen Entwicklung anzuregen. und die Entwicklung medizinischer Geräte zur Verwendung bei diesen Behandlungen.

Das Papier enthält einen Überblick über die aktuellen und potenziellen zukünftigen Einsatzmöglichkeiten von KI/ML in der therapeutischen Entwicklung. Außerdem werden die möglichen Bedenken und Risiken im Zusammenhang mit diesen Innovationen sowie Möglichkeiten zu deren Bewältigung erörtert. In dem Papier wird beispielsweise die Bedeutung der menschlichen Beteiligung beschrieben, die je nach der Art und Weise, wie die Technologien eingesetzt werden, unterschiedlich sein wird. Das Papier betont außerdem die Einführung eines risikobasierten Ansatzes zur Bewertung und Verwaltung von KI/ML, um Innovationen zu ermöglichen und die öffentliche Gesundheit zu schützen.

Das Papier charakterisiert bestimmte Risiken, wie etwa Verzerrungen in den Daten, die zum Trainieren von ML-Algorithmen verwendet werden, oder Ungenauigkeiten und Vollständigkeit dieser Daten. Darüber hinaus beschreibt das Papier die Rolle der Überwachung der Leistung von Modellen, um sicherzustellen, dass sie über einen längeren Zeitraum zuverlässig, relevant und konsistent sind.

Es gibt auch Fragen zu berücksichtigen und einen Aufruf zum Engagement und zur Zusammenarbeit innerhalb der biomedizinischen Gemeinschaft. Als Folgemaßnahme zum Papier planen wir einen Workshop, um zu diskutieren, wie die Community zusammenarbeiten kann, um das Potenzial von KI/ML für die Produktentwicklung auszuschöpfen und gleichzeitig mögliche Herausforderungen im Auge zu behalten. Wir freuen uns darauf, von Experten zu diesem wichtigen Thema zu hören.

Um den Einsatz von KI in der Arzneimittelherstellung weiter zu thematisieren, hat CDER im Rahmen der Framework for Regulatory Advanced Manufacturing Evaluation (FRAME)-Initiative ein weiteres Diskussionspapier mit dem Titel „Künstliche Intelligenz in der Arzneimittelherstellung“ herausgegeben. KI-Technologien sind in der Arzneimittelherstellung wichtig, da sie die Prozesskontrolle verbessern, Frühwarnsignale erkennen und Produktverluste verhindern können. Wir planen außerdem einen zweiten Workshop für Stakeholder, um die Fragen in unserem Diskussionspapier zur KI in der Arzneimittelherstellung zu diskutieren.

Die Bemühungen unserer Agentur im Bereich KI/ML gehen über diese Initiativen hinaus. Wir beraten unter anderem Produktentwickler, binden Patienten ein und fördern die Regulierungswissenschaft in diesem Bereich. Als Regulierungsbehörde für das öffentliche Gesundheitswesen hoffen wir, die sichere Entwicklung dieser Technologien zu fördern, die den Amerikanern helfen sollen, schneller und zuverlässiger Zugang zu wichtigen Behandlungen zu erhalten. Die Arbeit der FDA unterstützt auch die laufenden Bemühungen der Regierung, sicherzustellen, dass Technologie das Leben des amerikanischen Volkes verbessert, und gleichzeitig einen kohärenten und umfassenden Ansatz für KI-bezogene Risiken und Chancen voranzutreiben.

10.05.2023