15 Mai Einsatz von Machine Learning / Künstlicher Intelligenz im GxP Umfeld (Teil-1)

Leitfaden für den Übergang von klassischen Algorithmen zu probabilistischen Systemen in der Pharmaindustrie

Executive Summary

In der pharmazeutischen Industrie ist die Sicherstellung der Patientensicherheit die oberste Qualitätsanforderung. Während klassische computergestützte Systeme auf deterministischer Programmierung basieren, führt der Einsatz von Machine Learning (ML) eine neue Ebene der Komplexität ein: den Übergang zu probabilistischen Systemen, die auf historischen Daten trainiert werden. Hier sollen die Herausforderungen, regulatorischen Rahmenbedingungen und Best Practices für die Implementierung und Validierung von ML-Modellen im GxP-Umfeld erläutert werden.

1. Der Paradigmenwechsel: Deterministisch vs. Probabilistisch

Der wesentliche Unterschied zwischen klassischer Software und Machine Learning liegt in der Art der Regelfindung.

• Klassische Algorithmen: Regeln werden explizit programmiert. Der Output ist klar definiert, 100 % reproduzierbar und eindeutig. Die Validierung erfolgt hier durch den Nachweis, dass der Code die Vorgaben exakt umsetzt.
• Machine Learning: Das System lernt Muster aus historischen Daten und entwickelt statistische Regeln. Ergebnisse unterliegen daher statistischen Unsicherheiten.
  Die Validierung bedeutet hier den Nachweis, dass das Modell statistisch verlässliche Vorhersagen für unbekannte Daten trifft. Dieser „Blackbox“-Charakter erfordert statistische Qualitätsziele statt absoluter Deterministik.

2. Praktische Anwendungsfälle in der Pharma-Wertschöpfungskette

Der Einsatz von ML bietet vielfältige Vorteile, wie effizientere Prozesse und höhere Produktqualität. Hier sind vier Beispiele aus der Pharma-Industrie:

• Visuelle Inspektion: Während klassische Systeme klare Regeln für Fehler benötigen, kann ML durch Training mit Bildmaterial (fehlerhaft vs. fehlerfrei) innerhalb von Millisekunden entscheiden. Dies führt zu einer Reduktion von „False Rejects“ und einer besseren Fehlererkennung.
• Chromatographie: Ein neuronales Netzwerk kann anhand in der Vergangenheit aufgezeichneter Prozessdaten den optimalen Zeitpunkt für die Wirkstoffabtrennung prognostizieren, wodurch die Ausbeute gesteigert werden kann.
• Pharmakovigilanz: Durch Natural Language Processing (NLP) lassen sich Nebenwirkungsmeldungen (ICSR) automatisiert triagieren, wodurch Experten entlastet werden und sich auf relevante / kritische Fälle konzentrieren können.
• CSV & Projektmanagement: Large Language Models (LLMs) unterstützen beim Requirement Engineering, indem sie Anforderungen auf SMART-Kriterien prüfe, durch semantische Analysen Anforderungs-Redundanzen aufdecken und diese automatisiert reduzieren können.

3. Regulatorische Herausforderungen und Rahmenbedingungen

Da aktuelle behördliche Vorgaben ML oft noch nicht explizit berücksichtigen, ist häufig eine Interpretation bestehender Regeln erforderlich. Dies führt zu Unsicherheiten bezüglich der Dokumentationstiefe, erfordert organisatorische / wirtschaftliche Risikobereitschaft und die frühzeitige Kommunikation mit Inspektoren.

Entscheidender Faktor ist bei der Einführung von ML-Lösungen ist das Mensch-Maschine-Kontrolldesign:

• Human-in-the-Loop: Das Bedienpersonal muss jedes Modellergebnis aktiv bestätigen.
• Human-on-the-Loop: Das System arbeitet autonom, aber der Mensch überwacht den Prozess und kann jederzeit intervenieren.

International entwickelt sich das regulatorische Umfeld rasant. Wichtige Referenzpunkte sind der EU AI Act (2024), der Fokus auf Risikoklassen und Governance legt, sowie die geplante Revision des EU GMP Annex 11 (2026), in der ML-spezifische Aussagen erwartet werden.

4. Ethische Leitgedanken für vertrauenswürdige KI

Die EU hat einen Rahmen für vertrauenswürdige KI etabliert, der auf vier Säulen basiert:

• Menschliche Autonomie: Systeme sollen menschliche Fähigkeiten stärken, nicht manipulieren. Transparenz über den Einsatz von KI ist gegenüber Patienten und Mitarbeitern essenziell.
• Schadensverhütung: Die Verantwortung liegt immer beim pharmazeutischen Hersteller. Maßnahmen gegen „Modellblindheit“ (nachlassende Wachsamkeit des Personals) müssen getroffen werden.
• Fairness: Vermeidung von Diskriminierung (Bias) durch verzerrte Trainingsdaten, besonders wichtig bei der Auswahl von Teilnehmern für klinische Studien.
• Erklärbarkeit: Entscheidungen des Modells müssen für das „Human-AI-Team“ nachvollziehbar sein, um Vertrauen zu schaffen.

5. Das Lebenszyklusmodell: Validierung als kontinuierlicher Prozess

Im Gegensatz zur klassischen Validierung ist die Validierung bei ML kein statischer Endpunkt, sondern ein fortlaufender Zyklus. Basierend auf GAMP 5 (Second Edition) wird ein dreiphasiges Modell empfohlen:

• Phase 1 (Konzept): Definition des Anwendungszwecks, Machbarkeitsanalyse und Etablierung neuer, zu involvierender Rollen wie z.B. Data Scientists.
• Phase 2 (Projekt): Iteratives Training, Modell-Design und Testing (Split-Verfahren) sowie Fine-Tuning vor dem Deployment.
• Phase 3 (Betrieb): Einsatz im GxP-Prozess mit fortlaufendem Monitoring der Leistungskriterien und kontrolliertem Retraining bei Qualitätsmängeln oder neuen Daten.

Fazit

Die Implementierung von Machine Learning im GxP-Umfeld erfordert ein Umdenken, weg von rein regelbasierten Systemen und hin zu einem risikobasierten Qualitätsmanagement. Durch die Kombination von Fachwissen, ethischen Grundsätzen und einem iterativen Lebenszyklusmodell können Unternehmen die Produktqualität und Patientensicherheit nachhaltig erhöhen, während sie gleichzeitig von den Effizienzgewinnen moderner KI-Technologien profitieren.

Autor: Helmut Rector
Bild: pixabay